IT之家10月7日消息，杰弗里.辛顿(Geoffrey Hinton)希望AI企业跨过一道制药行业早已熟悉的监管门槛。
在当地时间周二播出的《Smart Girl Dumb Questions》播客节目当中，这位被称作“AI教父”的诺贝尔奖得主、计算机科学家提出建议：AI公司在产品正式发布之前，必须先向监管机构证明自身产品具备安全性。
“你不能直接研制一款新药就把它推向市场。”辛顿对播客主持人纳伊玛.拉扎(Nayeema Raza)说道，“你必须说服美国食品药品监督管理局(FDA)。而为了完成这件事，你需要开展大量工作，相关投入大约要十亿美元级别。”
“对于人工智能（885728）而言，至少也应当设立这样的要求。”辛顿补充道。
辛顿针对AI安全争议提出这套解决方案的背景，一方面是各界不断出现关于AI带来灾难性后果的预判；另一方面，OpenAI在测试之后，出于对模型服从用户指令、恪守权限边界的担忧，已经搁置了自家最新模型。
IT之家注意到，OpenAI安全系统负责人萨奇.贾恩(Saachi Jain)此前接受《商业内幕》采访时表示，GPT 6.1Astra模型在持续处理高难度任务方面有所进步，但在权限管控以及行为日志反馈方面仍存在短板。
辛顿提出，人工智能（885728）正在越来越多地实现自我迭代优化，这既可能加速能力提升，同样也会放大潜在风险。
“指数级的增长速度是十分惊人的。”辛顿说，“我们已经开始看到递归式自我改进现象：人们正在以多种多样的方式，借助AI本身去改良AI。”
“当然，这仅仅属于我的推测。”辛顿补充说，“但我估计，距离局面远比现在糟糕，大概也就只剩一两年时间了。”
