Anthropic预训练研究员Jacob Coxon周二(8日)宣布辞职，决定退出AI行业，因他担心公司及其竞争对手正竞相开发无法受控制的AI系统。



现年27岁的Coxon是一名专门通过让AI模型吸收海量数据来训练新模型的研究员，他称，忧虑AI类系统可能会失控兼且不断恶化，最终毁灭人类。



他表示，他今年早些时候离开OpenAI、转而加入Anthropic，是因为后者以重视模型安全而闻名。Coxon称，当各间公司相互竞争并与中国的创新公司展开竞争时，在安全性上作出取舍是不可避免的，预计到明年底，局面可能就已经失控；认为若没有政府出手干预或全行业协同减速，没有哪间公司能负责任地开发出在一系列任务上胜过人类的AI。



他表示，不要低估AI带来的影响；未来将会有「超越人类」的系统能入侵所有东西，一夜间推翻所有领域，以及取得实际权力及资源。他指出行内人士已见证有关进展，而且进展不慢。建立AI的人真诚相信AI在十年内可杀害所有人类。