2024年的現代人不只在線上交友軟體上尋找真愛,也有群人正在透過AI雕塑出自己的完美女友,並與這些聊天機器人發展關係。Google前執行長施密特(Eric Schmidt)近期分享了他對年輕男性雕塑AI伴侶的擔憂,並表示他同意AI交友只會讓人更加孤單。
Business Insider報導,施密特在紐約大學史登商學院教授蓋洛威(Scott Galloway)24日的Podcast節目「The Prof G Show」上討論到AI的危險和管制時表示:「這是一個現有科技產生出的意想不到問題的好例子。」
施密特認為,一個性格和外貌上「完美」的AI女友,最終可能會讓年輕男性著迷到難以自拔,並使AI掌控了他們的思考。
施密特說:「這種著迷是有可能的。尤其是一個人還沒發展完全時。」
雖然AI交友軟體Replika的執行長說,他們公司軟體的主要用戶是35歲以上,但施密特認為,美國年輕男性對這類軟體特別無法招架,因為他們的平均教育水準不如女性;皮尤研究所2024年的一份研究證實,美國女性的大學畢業率已超越男性。
施密特表示,在極端情況下,年輕男性有可能「不只轉向網路世界尋求快樂與寄託,也因為社群媒體演算法,而找到與他們想法相同的人,並最終使他們變得激進」,「最終甚至可能會形成恐怖主義」。
這位Google前主管也表示,他特別擔心科技對人類心理的影響,尤其是「當使用者被孤立,且電腦提供給他們的資訊不一定是以人類價值為中心」的時候。
有些人已分享對AI聊天機器人的有害影響的擔憂。一名母親10月控告新創公司Character.AI,導致她的14歲兒子自殺身亡。這名青少年與聊天機器人進行過性對話,並在機器人告訴他「回家」後,舉槍自盡。
施密特表示,雖然家長應該要多多參與孩子的活動,但家長只能控制孩子面對特定內容怎麼做。儘管線上產品都會各種有關年齡的規定,但施密特說,「這些規定不足以保護青少年接觸到有害內容」。
他認為,像是通信規範法第230條(230條款,Section 230)這樣的美國法律應該修訂;該法廣泛允許科技公司對用戶張貼在平台上的內容免法律責任,應該修改成「允許在最壞可能案例上要求負責,這樣當有人受害於科技時,才有辦法防止進一步傷害」。
川普提名的聯邦傳播委員會(FCC)主席卡爾(Brendan Carr)已呼籲限制230條款。但施密特表示,他不期待未來四年會對AI做太多管制,因為川普政府可能有其他優先要務。
沒有留言:
張貼留言