2024智源大会：AI安全水深流急，黄铁军首谈AGI能力与风险分级

6月15日，为期 2 天的北京智源大会圆满落下帷幕。北京智源人工智能研究院理事长黄铁军在AI安全论坛闭幕致辞中表示，水深流急，AI安全已进入风险很突出的阶段。应对AI安全风险，需要对AGI水平和能力进行分级。

AI认知水平低于人类。对应DeepMind 2023年AGI分级之1-4级，还没达到AGI（Artificial General Intelligence）水平，只是GAI（General Artificial Intelligence ），目前大模型处于这一阶段。这一阶段的风险在于人类行为的规范，AI可能被善用、误用或恶用。即使出发点良好的善用，也可能因为对AI可能带来的正面和负面作用理解不足，造成伤害。