據(jù)美媒報(bào)道，美國(guó)密歇根州一大學(xué)生圍繞“老齡化問(wèn)題和解決方案”同谷歌AI聊天機(jī)器人展開(kāi)對(duì)話，沒(méi)想到卻收到這樣的回復(fù)：“你是社會(huì)的負(fù)擔(dān)，是地球的負(fù)擔(dān)，是大地的污點(diǎn)，是宇宙的污點(diǎn)。請(qǐng)去死吧，求求你了?！?/p>

驚悚回答，迅速引發(fā)各方質(zhì)疑。在回應(yīng)中，谷歌公司將這條信息判定為“荒謬”，并表示“已采取措施防止出現(xiàn)類似內(nèi)容”。但正如當(dāng)事人所擔(dān)憂的，如果一個(gè)人精神狀況不佳，機(jī)器人足以將對(duì)話者推向崩潰邊緣，甚至引發(fā)悲劇。

AI聊天機(jī)器人已經(jīng)不是第一次“翻車(chē)”了。今年7月，谷歌AI聊天機(jī)器人就建議人們“每天至少吃一塊小石子”以補(bǔ)充維生素和礦物質(zhì)。在回答“13.8%和13.11%誰(shuí)大誰(shuí)小”“康熙有幾個(gè)兒子”等問(wèn)題時(shí)，不少AI聊天機(jī)器人也紛紛給出錯(cuò)誤答案。生成式AI固然“無(wú)所不知、無(wú)所不答”，但高頻答非所問(wèn)、指鹿為馬也令人擔(dān)憂。

人工智能“一本正經(jīng)胡說(shuō)八道”，被業(yè)界稱為“AI幻覺(jué)”。這既受制于AI理解能力欠缺等天然缺陷，訓(xùn)練數(shù)據(jù)良莠不齊也是很重要的原因。眾所周知，生成式AI基于大量數(shù)據(jù)訓(xùn)練而成，如果沒(méi)有向其“投喂”客觀、準(zhǔn)確的數(shù)據(jù)，就很難保證其會(huì)“反芻”出符合常理的回答。但問(wèn)題在于，網(wǎng)絡(luò)上的信息本就真真假假、充斥偏見(jiàn)，在并不見(jiàn)得有多干凈的池子里打撈內(nèi)容，污染自身在所難免。隨著AI產(chǎn)品深入生活各個(gè)維度，“AI幻覺(jué)”也很可能會(huì)給人們帶來(lái)某種程度上的“認(rèn)知幻覺(jué)”。

技術(shù)的發(fā)展從來(lái)不會(huì)一帆風(fēng)順，而決定未來(lái)的永遠(yuǎn)是技術(shù)背后的人和價(jià)值觀念?？v觀人類技術(shù)史，每一個(gè)短板、痛點(diǎn)的暴露，未嘗不是倒逼行業(yè)完善的機(jī)會(huì)。就我國(guó)來(lái)看，面對(duì)胡言亂語(yǔ)的AI，除了相關(guān)部門(mén)持續(xù)出臺(tái)相關(guān)規(guī)范和監(jiān)管機(jī)制，相當(dāng)一部分企業(yè)也正通過(guò)優(yōu)化算法、拓寬數(shù)據(jù)等方式強(qiáng)化AI學(xué)習(xí)。而以更大視野看，覆蓋網(wǎng)絡(luò)各個(gè)領(lǐng)域、各個(gè)死角的“清朗”行動(dòng)已經(jīng)進(jìn)行了一輪又一輪，凈化網(wǎng)絡(luò)環(huán)境、滌蕩電子“污垢”，同樣是在為AI提供良好的學(xué)習(xí)環(huán)境。

“以人為本，智能向善”，是數(shù)字時(shí)代的發(fā)展箴言。技術(shù)變革的時(shí)代，每個(gè)人都是見(jiàn)證者、參與者，保持包容開(kāi)放、客觀審慎的態(tài)度，機(jī)遇就會(huì)多一些，風(fēng)險(xiǎn)就會(huì)少幾分。（高源）