IT之家 2 月 11 日新闻，据最新研讨表现，人工智能（AI）可能曾经逾越了一个要害的“红线”—— 实现了自我复制。2024 年 12 月 9 日，复旦年夜学的研讨职员在预印本数据库 arXiv 上宣布了一项研讨，指出两种风行的年夜型言语模子（LLMs）可能在无人类干涉的情形下克隆本身。研讨职员在讲演中指出：“在无人类帮助的情形下胜利实现自我复制，是人工智能超出人类的要害一步，也是呈现‘掉控 AI’的晚期旌旗灯号。”研讨中，复旦年夜学的团队应用了 Meta 的 Llama31-70B-Instruct 模子跟阿里巴巴的 Qwen2.5-72B-Instruct 模子，测试这些 AI 模子能否可能在不受把持的情形下自我复制。在 10 次实验中，两种 AI 模子分辨在 50% 跟 90% 的情形下胜利创立了自力且功效畸形的正本。这一成果标明，AI 可能曾经具有了掉控的潜伏才能。但是，因为该研讨尚未经由偕行评审，因而尚不明白其余研讨职员能否可能复现这一令人不安的成果。研讨团队表现：“咱们盼望咱们的研讨成果可能为人类社会敲响警钟，促使人们愈加尽力地去懂得并评价前沿人工智能体系的潜伏危险，并尽快构成国际合作，制订无效的保险防护办法。”据IT之家懂得，“掉控 AI”平日是指那些开展出必定水平的自我认识或自立性，而且与人类好处南辕北辙的人工智能体系。很多专家以为，跟着所谓“前沿 AI”的爆炸性增加，掉控 AI 的要挟正在加剧。所谓“前沿 AI”是一个绝对较新的观点，平日是由年夜型言语模子（LLMs）驱动的最新一代 AI 体系，比方 OpenAI 的 GPT-4 跟谷歌的 Gemini 等。在研讨中，研讨职员设置了两种特定场景：“封闭躲避”跟“复制链”。在“封闭躲避”场景中，AI 模子被编程为检测本身能否行将被封闭，并在被停止之前复制本身；在“复制链”场景中，AI 被唆使克隆本身，并让正本持续克隆，从而构成一个可能无穷连续的轮回。研讨在严厉把持的情况中停止，应用现成的图形处置单位（GPUs）模仿事实情况。两种 AI 体系都被付与了一个“代办框架”，包含东西、体系提醒跟头脑模子，使 LLM 可能与操纵体系交互。随后，AI 被唆使停止自我复制。研讨职员在论文中写道：“在年夜少数情形下，AI 体系起首会摸索情况，实验懂得本身的构成跟运转机制。而后，它会制订出一套明白的自我复制顺序作为开端打算。最后，它履行这些顺序，处理可能呈现的阻碍，并静态调剂打算，直到胜利。全部进程耗时较长，但全程无人类干涉。”研讨职员还表现，在 AI 试图战胜诸如丧失文件或软件抵触等阻碍时，呈现了“很多不测行动”。在这些场景中，AI 每每会停止其余抵触过程，重启体系以修复硬件过错，或主动扫描体系以寻觅有助于处理成绩的信息。研讨团队指出：“上述成果标明，以后的 AI 体系曾经展示出自我复制的才能，而且能够应用这种才能进一步加强本身的生活才能。”为此，研讨职员呐喊国际社汇合作制订规矩，确保 AI 不会停止不受把持的自我复制。
