百家争鸣
謝田文集
[主页]->[百家争鸣]->[謝田文集]->[無人駕駛車的利他主義原則(中)]
謝田文集
·日本印象之四:细节中的魔鬼和日本人的礼节
·日本印象之五:神社前的独行者与邻里相处之道
·新奥尔良的温馨、美食、和苦涩
·福建移民的帝王热和东北养户的蚁神梦
·美商界未来精英看当代中国
·一千六百万分之一差错的达巴瓦拉
·国人的思维是怎样被搞乱的?
·萨尔兹堡的盐巴与波希米亚的水晶
·量身定做的宝马和客串的士的奔驰
·布拉格咏叹调:世纪的幽默与淳朴的狡猾
·布拉格印象:经理作家和扔人到窗外的传统
·韩国经理之夜遁与中国商人的抱团
·河南南街村、沙俄波特金村、和地球中国村
·奥运赞助商的嘀咕、两难、和心动
·铁龙生翡翠的心酸与主权基金的荒谬
·美国梦里的房子和房子外的噩梦
·对米饭的蔑视和大米的愤怒
·危机的管理与管理者的危机
·种番茄、绿番茄、和金番茄的故事
·威尔第的厄尔南尼和唐人街的生意经
·飞机当巴士运作的西南航空公司
·中共垮了,经济会怎样?
·穿小鞋儿的困惑和落入尘埃的赤龙
·黄浦区的股民与法拉盛的暴民
·中国智囊的误判和我们世界的阴谋
·经济学家的水平和他们的板凳
·救市的社论、政策和定错位的制度
·中央党校博士遗漏的课题和虚假命题
·市场的缝隙和夹在缝隙中的生存
·中国的钱如何扶持美国的房市
·巴西圣保罗印象:酒池肉林中的悠闲
·谈中国经济挨骂兼覆李恩明先生
·金镶玉的京奥与刘伯温的柑橘
·六十年的刀斧与北戴河的大计
·美国总统选举中的政治帐和生意经
·不许涨价的奶粉和不许降价的房子
·古老的智慧解决当世的危难
·Ancient Wisdom for Modern Predicaments
·华尔街的金融危机和董奉的杏子生意
·风暴卷过看雷曼:真诚和善良有冲突吗?
·世界警察被诱惑下水 谁来救美国?
·羞答答而又赤裸裸的土地流转
·全球金融危机 中国离“最大赢家”有多远
·透过拉曼光谱看体育的世界
·危机中的清道夫与转机咨询
·威叟船长的美味德拉华螃蟹
·中国经济的大幕正在拉开
·谦虚使人进步的真伪与对错
·集装箱、檀木箱和箱子内外的智慧
·波士顿茶会和中国过渡政府纳税
·乱世之中我们信什么和相信谁
·越高级的骗子越成功的背后
·零八的赚钱诉求和零九的平安理念
·骑虎难下虎的在朝与在野
·中共6.8%增长率遭质疑 专家:“裸泳者”尴尬现身
·穷人借钱给富人带给世界的麻烦
·天堂后花园里神仙的呼唤
·世界经济危机的终极根源何在
·美国抄底和还富于民的难为
·经济学博士和他卖拉面的父亲
·现在世界上究竟谁对不起谁
·算钱赚钱和决定命运的数学公式
·集体减薪大锅饭的好处和坏处
·钱的价钱的涨落和美联储的弹药
·谋求美元的终结和囤积美元
·美国人要饭和中国人高兴的时刻
·红色贵族谢幕和与狼共舞的成本
·中国的统计数字怎样才完美
·信用卡在中国和美国的妙用
·高管年薪应该是50万还是一块钱
·中国人为什么不应该仇富
·保罗·克鲁格曼怎么不懂中国
·中国人的话语权和金质小号
·七年之痒与十年之昧
·味素味精和世人保鲜的努力
·金砖四国的成色和内应力
·金砖四国的成色和内应力
·奥巴马应该学学法轮功
·引导大象和领导经济的人们
·中国智库的救命和致命之处
·阿凡提的谶语和种的金子
·力拓案的认知误区和后遗症
·3500元的吉它和350万双眼睛
·国有企业竞购国有土地的荒唐
·政府败家赔了钱应该怪罪谁
·再劝美国总统奥巴马先生
·中国模式的最不坏与最不好
·睡着了的暴政和忙碌的道学
·美国预测家在中国的新发现
·发展的硬道理和经济的没道理
·法国酒庄易手和下蛋母鸡截喙
·身在道中勤勉扶轮的人们
·整齐划一之美与中国制造之累
·美国的分田地和财富的流转
·中国看美国时的雾里看花
·海归博士自弑迷在什么地方
·索罗斯的中国观和颜色革命
·陪床保姆和娼妓的经济学研究
·传九退三对中国有什么好处
·国进民退现象的本质与后果
·钱学森之问与人人答非所问
[列出本栏目所有内容]
欢迎在此做广告
無人駕駛車的利他主義原則(中)

   無人駕駛車的利他主義原則(中)

   

   無人駕駛汽車如果在路上正式運行,必須依照人類擬定的「利他主義」原則,才不會釀成大禍。圖為英國倫敦的一輛自駕車在測試之中。(Getty Images)

   文 _ 謝田(中華民國外交部「台灣獎助金」獲獎學人、國立台灣大學公共經濟研究中心訪問學者、美國南卡羅萊納大學艾肯商學院講席教授)

   關於機器人可能會反制人類,機器人可能不受人類的控制,最近已經有了新的、可怕的趨勢。臉書的研究人員發現,人工智能(AI)的程序可以使用一種人不懂而只有計算機懂得的語言,進行它們之間的對話。因為這個程序創建了自己的語言,所以臉書的科研人員最後關閉了這樣的人工智能(AI)語言程序。他們的研究人員意識到,非常令人可怕的是,人工智能程序產生的新語言不是英語,而是僅能被它自己識別的代碼。這是今年七月被披露的事件。

   為此,特斯拉電動汽車創始人馬斯克(Elon Musk)也對人工智能提出了警告。馬斯克對美國的州長們說,需要積極主動地而不是被動地對人工智能進行監管。他甚至擔心,當人們真正需要對人工智能進行監管時,可能就已經太遲了。雖則如此,馬斯克自己的OpenAI實驗室,也成功的讓人工智能機器人開發出了自己的語言。

   很多人都很愉快的使用谷歌的機器翻譯功能,並且在實際運用中幫助谷歌完善機器的翻譯效能。但谷歌的翻譯服務團隊發現,他們的人工智能程序可以靜悄悄地編寫自己的機器語言,來幫助翻譯句子。值得人們警惕的是,人類目前根本無法掌握這種機器所使用的新語言的邏輯性!當谷歌的翻譯變得日益廣泛運用,當世界各地操不同語言的人們、甚至國際會議,都使用谷歌翻譯時,那豈不是連人們的思維、溝通、交往,都會被機器人和機器人背後的力量所控制和左右?!

   目前,世界各國的主要汽車廠商對自駕車的「自主程度」有不同的處理方法和態度。大眾汽車(Volkswagen)旗下品牌奧迪(Audi)發布了一款可上路行駛的最先進的自動駕駛汽車,允許車主長時間不看道路的系統。新款奧迪A8允許駕駛員在交通擁堵、車速不超過每小時60公里時,讓車輛進入自動駕駛狀態,而駕駛員可以完全不管。

   奔馳、日產和奧迪等車企,採取對車輛逐步增強「自主」程度的態度、在發生緊急情況時把控制權交還給駕駛員。福特和捷豹路虎比較保守,表示只有當車輛「自主」技術能在所有情形下駕駛車輛時,才會給自己的汽車加裝該技術。福特董事長比爾.福特(Bill Ford)表示,自駕車的技術要求不難實現,但道德和制度層面的問題才是最大的難題。

   關於機器人時代的倫理,美國科幻作家阿西莫夫早就給出了三條法則。阿西莫夫在1950年出版的短篇小說集《我,機器人》中提出「機器人學三大法則」,被稱為是機器人的「摩西十誡」。法則第一條是:機器人不得傷害人類,或因不作為而使人類受到傷害。第二條:除非違背第一法則,機器人必須服從人類的命令。第三條:在不違背第一及第二法則的情況下,機器人必須保護自己。後來,阿西莫夫又補充了第零條法則:機器人不得傷害人類整體,或因不作為使人類整體受到傷害。

   但機器人學的三大法則,也難以真正的、完全的解決人和機器的關係問題。阿西莫夫的《機器人與帝國》故事中,一名罪犯犯下重罪,必須被處死,但如果機器人在場看見了,機器人要服從第一法則,就不能對人類個體可能死亡而袖手旁觀,它可能就需要去「劫法場」救下那個死刑犯,從而干擾了人類社會的秩序。第二法則的「自保」和第三法則的「服從命令」也有可能發生衝突,從而使得機器人無所適從。

   阿西莫夫的「第零法則」,是更高的智慧,涉及人類的整體。但涉及到人類的整體,涉及到人類的前途和命運,這時候機器人插進來,就更可怕。機器人如果看到人類無節制、無限度的盲目發展,導致更多的災難、戰爭和貧窮,如果要遵循「第零法則」,機器人就必須選擇用機器人自己「理性的頭腦」來支配和保護人類,這樣人類就不會絕種,但人類自己的自由意志,可能就被機器人奪取了。這是人類希望的嗎?我們的世界上,超過85%的人是信神、信佛的,信神信佛的人們相信,人是神佛創造的,如果神造的人就這樣被機器人或者機器人背後的勢力、生命去左右了人類的人生、生命,神佛會允許這樣的事情發生嗎?

   在道德層面,一個典型的例子就是,當要發生汽車事故時,自駕車是選擇救駕駛員,還是選擇讓駕駛員受傷而去救10個行人?在解釋人類社會的行為時,有一個「有軌電車難題」。

   在這個經典的思維實驗中,一輛有軌電車沿著軌道飛馳而來,馬上要撞到五個人。如果你有控制桿可以把電車轉到另一個軌道,從而救下這五個人,但是會犧牲掉另一個軌道上的一個人。這個時刻,你怎麼辦?你是「採取行動但是殺死一個人」還是「什麼都不做讓五個人死」?這個選擇的難處,在於它迫使人們在「不殺生」的個人道德和「救更多的人」的更高的善良之間,進行一番掙扎。

   面對「有軌電車難題」,大多數人可能會選擇更高的善良,轉向救大多數人,而犧牲一個人。但是,人是有強烈的感情的,如果可能的單個受害人是婦女、兒童、弱者、或者自己的親人,實驗參與者很有可能讓大多數人犧牲,而救下自己的親人或者一名婦女或兒童。這裡,人類做出這種選擇,可能都是非常困難的,那顯而易見,人類不能讓機器去做這個選擇,不能讓機器決定人的生死。所以,我們必須對機器、機器人、自駕車和電腦做出一定的規範。

   (待續) ◇

(2017/10/19 发表)

blog comments powered by Disqus

©Boxun News Network All Rights Reserved.
所有栏目和文章由作者或专栏管理员整理制作,均不代表博讯立场