界面新闻记者 | 宋佳楠
近日，谷歌旗下DeepMind实验室发布了一份长达145页的人工智能安全报告。报告指出，具备人类智能水平的通用人工智能（AGI）可能在2030年左右问世，且其带来的风险中，甚至包含 “永久毁灭人类” 这种极端情况。
AGI，即通用人工智能（Artificial General Intelligence），区别于当下只能执行特定任务的弱人工智能，它被定义为具有人类水平的智能和理解能力的AI系统，能够完成任何人类可以完成的智力任务，并适用于不同领域，甚至可能拥有某种形式的意识或自我意识。
举例而言，当下的语音识别、图像识别等AI应用，仅能在单一领域发挥作用，属于弱人工智能。而AGI则像人类一样，能够在医疗诊断、科学研究、艺术创作等广泛领域灵活运用知识与技能。
值得注意的是，这份报告并未确切指出AGI将如何导致人类灭绝，但详细阐述了它可能引发的四大风险。
一是滥用风险，即AGI技术可能被恶意行为者利用，用于制造大规模杀伤性武器或发动网络攻击等；二是错位风险，AGI系统的目标和价值观若与人类不一致，可能在追求目标的过程中对人类造成伤害；三是失误风险，AGI在运行过程中出现的技术故障或错误决策，可能引发难以预估的后果；四是结构性风险，AGI的发展可能改变社会、经济和政治结构，导致现有秩序失衡。
此外，报告还提到一些避免AGI被滥用的方法，例如在训练阶段采用 “放大监督” 策略，让AI监督AI；通过 “对抗训练”，故意给 AI出刁钻问题，就像老师反复考查学生易错题一样。在部署阶段，可将AGI视为 “潜在罪犯”，对其所有操作进行多层审核，同时删除AGI的危险功能。报告还强调了通过安全机制设计、透明化研究及行业协作来降低AGI被滥用带来的危害。
实际上，业界对于AGI对人类的威胁早有讨论。随着近年来人工智能技术的飞速发展，AI在各个领域的应用不断深化，人们对AGI的关注度也日益提升。
OpenAI首席执行官Sam Altman也曾公布公司2025年即将发布的技术产品，AGI就是亮点之一。其旨在赋予计算机理解和学习人类思维的能力，为多行业带来革新动力。但这种强大的能力也伴随着风险，引发了各界对AGI发展的担忧。
对此，特斯拉与SpaceX创始人埃隆·马斯克多次对人工智能的潜在威胁发出警告，认为人工智能可能是人类文明面临的最大风险之一，其发展速度可能远超人类预期，若缺乏有效的监管和控制，后果不堪设想。
部分金融分析师在评估科技行业发展趋势时也指出，AGI的出现虽然可能带来巨大的商业价值和社会变革，但企业在大力投入研发的同时，必须充分考虑其潜在风险，否则可能引发全球性的危机。
47847
26
47847
26
48158
46
18095
59
76276
17
65573
36
63128
4
86478
85
30367
78
63524
2
62738
4
31856
47
71272
50
83067
20
99712
97
54978
31
63720
90
94331
53
29063
54
68942
21
89181
94
23218
58
28745
52
81201
44
17391
69
29549
6
17480
70
89028
4
98746
88
79267
68
83517
81
27017
78
54410
77
62398
1
63428
58
63473
31
47199
19
84052
15
46245
22
19684
80
22271
49
94874
50
36152
35
45060
29
74946
99
90160
42
2
66369
8
47534
52
61701
41
52980
33
50061
60
68054
69
93840
53
92885
11