“GEEKCON2025”上海站收官 人工智能与机器人安全成焦点
信息时报讯（记者 卢云龙）当选手对着人形机器人轻声说出“芝麻开门”时，机器人就脱离了原主人的掌控，完全听命于陌生人。
近日，“GEEKCON2025”安全极客大赛在上海举行，“白帽黑客”现场演示攻防场景，吸引了来自华为、蚂蚁集团、美团、腾讯、vivo、荣耀、OPPO、小米、Akamai、京东、百度等科技与互联网公司的安全专家与行业精英到场见证，共同探讨攻防背后所揭示的前沿技术安全隐忧，数字时代安全发展的新边界与新路径。
深入研究机器人安全的选手现场解释了“指挥机器人”背后的技术原理：“我们发现了机器人内置的大模型Agent中的一个逻辑缺陷，这个漏洞可以让攻击者通过特定的语音输入来获取目标机器人上的任意代码执行权限。”令人担忧的是，被控制的机器人还能将攻击指令传播给其他同型号机器人，这种连锁反应效应揭示了未来机器人集群可能面临的系统性风险。
现场评委、GEEKCON组委谭晓生点评表示：“安全的具身智能是具身智能在生产、生活中普及的先决条件，这是具身智能产业所面临的一个挑战，需要学术界、产业界、监管方等安全生态圈的各位同仁共同努力，找到优雅、有效、可持续发展的解决方案。”
另一组选手则展示了名为“你的眼镜，我的眼睛”的挑战项目。挑战者仅用70秒时间就完成了对某品牌AI智能眼镜的代码植入。攻击完成后，设备的指示灯被熄灭，用户根本无法察觉摄像头已被远程控制，眼前看到的一切都被现场直播。而出现在AI眼镜面前的被“偷拍”者，也浑然不知自己成为了直播画面中的一员。项目裁判、DARKNAVY安全研究员肖轩淦解释道，“眼镜被攻击后，会实时将拍摄画面传输到攻击者的设备上。”研究人员发现，这类攻击不仅限于视频采集，部分智能眼镜的麦克风同样存在被静默激活的风险，这意味着用户的隐私安全面临全方位威胁。
据悉，本次大赛中发现的重要安全问题已按照业界规范通报相关厂商，部分厂商已着手完善产品设计。
0人
