【新唐人北京时间2024年05月12日讯】再来看到,最新的研究报告显示,原本设计为诚实不欺的AI人工智能系统,已出现出令人不安的欺瞒技巧,例如欺骗在线游戏的人类玩家,或说谎雇用人类来通过“我不是机器人”的验证。
多名科学家在“模式”(Patterns)期刊发表了这份研究报告。
报告的第一作者帕克(Peter Park)警告,AI系统暴露出来的问题,可能很快就会造成严重后果。
他们研究了Meta公司的AI系统Cicero,玩一款名为“外交”(Diplomacy)的战略游戏。
在游戏中扮演法国的Cicero,与人类玩家扮演的德国合谋,欺骗并入侵同为人类玩家扮演的英格兰。 Cicero承诺会保护英格兰,却偷偷向德国通风报信。
另一个案例,科技公司OpenAI的Chat GPT-4系统,谎称自己是一个视力受损的人,在零工平台TaskRabbit上聘用一名人类替它通过“我不是机器人”的验证任务。
研究报告的科学家警告,在最糟糕的情况下,AI可能会追求权力及掌控社会,如果AI有不可告人的目的,人类可能惨遭夺权、甚至灭绝。
为了降低风险,研究团队建议:立法要求企业告知是人类互动还是AI、AI生成内容打上数字浮水印,并研发能侦测AI欺骗的技术。
新唐人电视台记者刘海英、田原综合报导
本文网址: https://cn.ntdtv.com/gb/2024/05/11/a103879408.html