人工智能背后的操控者是誰?
“9·11 是猶太人干的，把他們都送進(jìn)毒氣室!種族戰(zhàn)爭(zhēng)現(xiàn)在開始!”
2016年3月23日，一個(gè)人設(shè)為19歲女性，昵稱為 Tay
的聊天機(jī)器人在推特上線。這個(gè)微軟開發(fā)的機(jī)器人能夠通過抓取和用戶互動(dòng)的數(shù)據(jù)模仿人類的對(duì)話，像人一樣用笑話、段子和表情包聊天。但是上線不到一天，Tay
就被“調(diào)教”成了一個(gè)滿口叫囂著種族清洗的極端分子，微軟只好以系統(tǒng)升級(jí)為由將其下架。
微軟聊天機(jī)器人的極端言論。
這樣的口號(hào)并不是聊天機(jī)器人的發(fā)明，而在社交網(wǎng)絡(luò)上大量存在著。美國大選期間，一些所謂的“政治新媒體”賬號(hào)發(fā)出的摻雜陰謀論、種族主義的內(nèi)容，在Facebook 上進(jìn)行了病毒式傳播。這有賴于人工智能協(xié)助下的“精準(zhǔn)定位”：誰最容易相信陰謀論，誰對(duì)現(xiàn)實(shí)最不滿?相應(yīng)的政治廣告和假新聞能精準(zhǔn)地投放到這群人中，使人對(duì)自己的看法更加深信不疑。
因?yàn)樵O(shè)計(jì)缺陷而 “暴走”的聊天機(jī)器人，和精心策劃的線上政治行為，看起來仿佛是兩回事。但這種我們似乎從未見過的景象，卻指向了同一個(gè)“兇器”——