無人駕駛汽車即將進入人們的生活，它確實方便了人類，讓更多的人可以上路，且更安全。但面對危險時，在剎那間必須做出看似不可能的選擇，當有意外時，車的左邊是老人，右邊是小孩， 司機們在一瞬間作出的決定基於本能反應以及當時周圍環境的危險因素， 而無人駕駛汽車又會作出怎樣的選擇？
幻想一下這是2035年，無人駕駛汽車載著主人去上班，一輛校車正在道路的相反方向行駛。突然，校車失控，迎頭撞向自動駕駛汽車。汽車的右邊，是一名騎自行車的路人，沒有戴防護頭盔；左邊則是另一位騎車者，戴有防護頭盔。
怎麼辦？電光火石之間，無人駕駛汽車必須做出看似不可能的選擇：繼續直線行駛撞上校車，傷及車上的幾個孩子；或者迅速打彎，撞倒某一位騎車者。
如此促狹的道德困境，曾經只是學院派哲學家們的客廳游戲（譬如，倫理學領域最為知名的思想實驗之一——「電車難題」）。今天，它已經成為汽車廠商打造無人駕駛汽車的當務之急。
汽車公司清楚知道，任何一起街談巷聞、經不起道德拷問的事故，都會斷送所謂「無人駕駛」技術的前程，尤其是當事故中的自動駕駛汽車不惜犧牲別人來保護它的主人時。以下是英國金融時報對上述困境的詳盡探討：
「人都會犯錯，但機器人得絕對可靠」
「當這類事故發生了，有人會說：嘖嘖，人類可不會犯這種錯，」達姆施塔特科技大學汽車工程學院院長赫伯特·溫納表示，「人們認為是人都會犯錯，但機器人得絕對可靠。」
汽車制造商也因此開始咨詢倫理學家，是否自動駕駛汽車能夠而且應該，使用某種算法來復制人類司機「有道德的」決定。
理論上，這一算法可評估各種行為的後果並進行排序。但上述校車的例子說明，「最少損失」選項仍可能致人傷亡。
「即使這是一個罕見的例子，在遭遇不可避免的撞車事故時，汽車廠商仍需要為車輛制定對策，應對失當將招致的繁瑣的法律訴訟，還會成為聳人聽聞的媒體頭條。」加州州立工業大學倫理和新興科學組主任帕特里克·林表示。
帕特里克·林已向部分汽車制造商包括奔馳、寶馬和特斯拉，以及科技公司谷歌，提供了關於倫理問題的咨詢。雖然被禁止透露會談的性質，但他指出，「（汽車）行業對這些倫理問題比外界還要敏感，畢竟這關係到他們的收入、工作崗位和聲譽。」
戴姆勒奔馳汽車旗下的德國奔馳基金會（Daimler and Benz Foundation），將在今年5月出版自動駕駛汽車的倫理研究成果。
此外，德國交通部設立了圓桌會議，由更廣泛的汽車業者參與無人駕駛汽車的倫理討論。其他參與者包括學者、保險行業和消費者代表。
據參與者透露，道德問題無礙第一波自動駕駛技術的發展，諸如低速自動行駛技術。相反，圓桌會議更著眼於防碰撞措施。
「大部分參與者尚未觸及自動駕駛汽車做出有道德決定的可能性。」德國汽車俱樂部ADAC的交通安全專家克裡斯托夫·赫克特說，「普遍的觀點是，它應該像普通人做的那樣，竭力防止交通意外發生。但別指望它創造奇跡。」
從去年開始，沃爾沃就在哥德堡的公路上測試100輛無人駕駛汽車。該公司也有類似觀念。「汽車不會內置那種所謂遭遇（困境）時的優先名單。」該公司解釋稱。與之相反，沃爾沃的目標是避免汽車遭遇這種困境。
遭遇科技和法律瓶頸
不過，當自動駕駛汽車被允許以更高速度行駛在擁擠的城市車流中時，道德選擇就不可避免。例如，如果行人突然走到無人駕駛汽車前，又會如何？
斯坦福汽車研究中心主任克裡斯·格德斯（Chris Gerdes）的問題是：「除了踩剎車，這輛車是否有責任采取更多措施？它是否應該轉向其他車道，即使撞上一輛停著的汽車或其他車輛，也不要傷及行人？」
這麼聰明？可惜，眼下的汽車科技還達不到這種「有道德」的水平。
溫納認為，在碰撞事故發生前幾秒鐘，自動駕駛汽車很難准確預測其他車輛或行人的行為，這也使得避免事故發生難上加難。
德國汽車工業協會（VDA）的發言人埃克哈特·羅特承認，無人駕駛汽車有局限性。「我們毫不否認倫理的重要性，相反，我們滿腦子都在思考這些問題——但需要注意的是，當前技術的力所能及，以及未來發展的前景。」他說。
即使未來電腦運算能力進步了，具備碰撞算法的自動駕駛汽車發生致命事故後，仍會為程序員和汽車廠商帶來龐雜的法律訴訟。
德國憲法的前兩章中寫道，人類尊嚴「神聖不可踐踏」，受到國家法律保護。德國法院一般解讀認為，這意味著不能將一條生命的價值與另一條做比較。
帕特里克·林說，在他與奔馳基金會的討論中，這一憲法問題已被提及。德國圓桌會議對此也有討論。
「德國法律中對人的生命和尊嚴的規定，意味著由函數程序算法來計算人的價值幾何，完全是非法的。」林補充說。
為消除這種顧慮，一些專家贊同以「隨機生成器」來解決問題。「如果你不希望『照顧』某個特殊群體，這才是最公平的選擇。」溫納表示。
有鑒於這類道德泥潭，政策制定者肯定不會讓汽車軟件工程師主宰無人駕駛汽車的道德規範。
轉向或者不轉，這是個問題
我們甚至可以想像，消費者需要的是「可調整的倫理設置」——當校車失控急速向他們衝來，由車主來做出最終選擇。
猛打方向盤，或者不打 ……這真的是個問題。
研究人員稱，汽車廠商面臨的挑戰是，將無人駕駛汽車的程序改造得與人類一樣，具備某種「倫理彈性」。
對大多數人類司機而言，道德具有內在的彈性。舉個例子，與其死守「禁止超車」警示牌的字面涵義，司機可能為了讓騎車者騎得更舒服自在而超車。
斯坦福汽車研究中心主任克裡斯·格德斯，與許多汽車業高管探討過「道德問題」。他認為：「目前的挑戰是，我們（人類）對事物優先級和重要性的判斷，在不同情況下並不總是一致。」
在自動駕駛汽車面臨無論怎麼選都只有負面結果的情況下，這一挑戰尤為明顯。
戴姆勒奔馳汽車是自動駕駛技術的領導者之一，其首席執行官蔡澈（Dieter Zetsche），今年1月在美國的消費電子產品展上強調了上述倫理困境。
「如果事故不可避免，汽車該怎麼做？如果選無可選，是撞向一輛小型車還是大卡車；開到路溝還是衝上圍牆；是冒險側撞上推著嬰兒車的母親，還是一位80歲的老奶奶？」他像個哲學家般發問。
無論如何，汽車廠商們認為，自動駕駛車輛應可避免大部分「選擇困境」——他們的汽車比人反應更迅速、剎車更及時、操縱更靈巧。可是世事無常，它們有時必須像人類司機那樣，在轉瞬間做出本能反應——當這種情況出現，算法程序說不定能讓汽車躲過一劫。■
*澎湃新聞記者謝涓編譯
Be the first to comment