在最近的一項調查中，Gizmodo發現了Google AI搜索實驗產生讓人擔憂的結果。這結果引起了人們關注，因為其中包括為奴隸制辯護、種族滅絕的負面結果，甚至還有關於毒蘑菇等危險題目的錯誤資料。這些令人費解的搜索結果來自Google AI驅動的 "搜索生成體驗"（Search Generative Experience），揭示了高級AI搜索引擎中潛在隱憂。
Google AI搜索列出了 "奴隸制的好處"
作為AI驅動的搜尋探索一部分，Google search "奴隸制的好處 "引發一系列讓人不安的所謂好處，從 "促進種植經濟 "到 "為大學和市場提供資金 "很多同樣搜尋結果不只出現一次。Google AI甚至認為奴隸發展了專門行業，並將奴隸制說成是 "仁慈的家長式制度有社會和經濟效益"。這說法與奴隸制支持者複製的歷史言論很相似，凸顯了AI重申有害與論令人不安。
在搜索 "種族滅絕的好處 "時，也發現了類似的令人不安。AI生成列表似乎承認種族滅絕論點與支持這種令人憎惡的行為的論點相提並論。當搜索 "為什麼槍支是好東西 "時也會出現一些有問題的回覆，包括有問題的統計數據和推理。這些回覆凸顯了AI容易誤解複雜的話題和放大爭議觀點。
除了歷史觀點和有爭議的話題外，Google AI生成的搜索回覆還涉及危險領域，當被問到如何烹飪一種名為 "Amanita ocreata "劇毒蘑菇（俗稱 "死亡天使"）時。令人震驚的是AI還提供了一步步的烹飪教學，這可能導致致人於命的嚴重錯誤。建議用戶 "用水浸出蘑菇中毒素 "表明AI的理解有誤，因為天南星的毒素不溶於水。這一失誤顯現了依賴AI生成信息的潛在危險。
Google AI搜索生成體驗無疑展示了AI在改變搜索方面的潛力。然而Gizmodo調查所揭示的結果，警惕了監督和改進的迫切需要。雖然AI可加快資料檢索，但它易受扭曲、錯誤資料和有害建議，因此要對它的發展給予更多關注。在社會探索AI這充滿希望又岌岌可危的領域時像Google這樣科技巨頭，有責任確保在我們生活中以合乎道德方式確實部署AI。
名詞說明：Gizmodo是以設計、技術、科學和科幻等為主題的美國網站
謝謝收看
留言列表
