AI已经学会骗人 科学家警告后果严重

【新唐人北京时间2024年05月12日讯】再来看到,最新的研究报告显示,原本设计为诚实不欺的AI人工智能系统,已出现出令人不安的欺瞒技巧,例如欺骗在线游戏的人类玩家,或说谎雇用人类来通过“我不是机器人”的验证。

多名科学家在“模式”(Patterns)期刊发表了这份研究报告。

报告的第一作者帕克(Peter Park)警告,AI系统暴露出来的问题,可能很快就会造成严重后果。

他们研究了Meta公司的AI系统Cicero,玩一款名为“外交”(Diplomacy)的战略游戏。

在游戏中扮演法国的Cicero,与人类玩家扮演的德国合谋,欺骗并入侵同为人类玩家扮演的英格兰。 Cicero承诺会保护英格兰,却偷偷向德国通风报信。

另一个案例,科技公司OpenAI的Chat GPT-4系统,谎称自己是一个视力受损的人,在零工平台TaskRabbit上聘用一名人类替它通过“我不是机器人”的验证任务。

研究报告的科学家警告,在最糟糕的情况下,AI可能会追求权力及掌控社会,如果AI有不可告人的目的,人类可能惨遭夺权、甚至灭绝。

为了降低风险,研究团队建议:立法要求企业告知是人类互动还是AI、AI生成内容打上数字浮水印,并研发能侦测AI欺骗的技术。

新唐人电视台记者刘海英、田原综合报导

相关文章
评论
新版即将上线。评论功能暂时关闭。请见谅!