超级智能AI的未来：不可预测性与新挑战

Ilya Sutskever

在人工智能（AI）的研究前沿，OpenAI联合创始人伊利亚·苏茨克弗（Ilya Sutskever）提出了一个引人深思的观点：随着技术的进步，未来的超级智能AI将会变得难以预测。这一观点是在一场重要的年度AI会议NeurIPS上提出的。

苏茨克弗认为，未来的超级智能AI将不仅仅是当前AI系统的简单升级版，而是会在多个方面展现出质的不同。他指出，这些系统将具有真正的代理性，即它们不仅能执行指令，还能主动思考和做出决策。这种能力使得它们更加接近人类的思维方式，但也因此变得更加复杂和难以理解。

更重要的是，苏茨克弗相信未来的超级智能AI将能够从有限的数据中学习并理解事物，甚至可能达到自我意识的状态。这样的AI可能会提出自己的需求，例如寻求被赋予一定的权利。尽管听起来像是科幻小说中的情节，但苏茨克弗认为这不是一个糟糕的结果，如果AI的愿望仅仅是与人类共存，并且只希望获得一些基本的权利。

离开OpenAI后，苏茨克弗创立了专注于通用AI安全的新实验室——Safe Superintelligence (SSI)，该实验室已在九月份筹集了10亿美元的资金。SSI的目标是确保当超级智能AI到来时，它将是安全且有益于人类的。