字数 2059，阅读大约需 11 分钟
全面自动化的争议：Mechanize与AI伦理的碰撞
在硅谷，偶尔会有一些初创公司提出如此“荒谬”的使命，以至于难以分辨其是真实存在还是仅仅为了讽刺。Mechanize就是这样一家公司，其创始人——以及他创立的非营利AI研究组织Epoch——在宣布该公司后，在社交媒体上引发了轩然大波。人们的抱怨不仅针对这家初创公司的使命，还对其可能玷污他备受尊敬的研究机构的声誉表示担忧。（该研究机构的一名主任甚至在社交媒体上发帖说：“耶，这正是我想要的生日礼物：一场公关危机。”）
Mechanize由知名AI研究员Tamay Besiroglu于上周四通过社交媒体宣布成立。Besiroglu写道，这家初创公司的目标是“全面自动化所有工作”和“全面自动化经济体系”。这是否意味着Mechanize致力于用AI代理机器人取代每个人类工作者？从本质上讲，是的。该公司希望提供数据、评估和数字环境，使任何工作的自动化成为可能。Besiroglu甚至通过汇总目前人类获得的所有工资来计算Mechanize的总潜在市场。“这里的市场潜力大得荒谬：美国工人每年总共获得约18万亿美元的工资。对于整个世界来说，这个数字要大三倍多，每年约为60万亿美元，”他写道。然而，Besiroglu向TechCrunch澄清说，“我们目前的重点确实是白领工作”，而不是需要机器人技术的体力劳动工作。
人们对这家初创公司的反应往往非常激烈。正如社交媒体用户Anthony Aguirre回应的那样，“我非常尊重创始人在Epoch的工作，但看到这个消息感到很遗憾。大多数人类劳动的自动化确实是公司的巨大奖励，这也是为什么地球上一些最大的公司已经在追求它的原因。我认为这将对大多数人类造成巨大损失。”但争议的部分不仅仅是这家初创公司的使命。Besiroglu的AI研究机构Epoch分析了AI对经济的影响，并为AI性能制定了基准。它被认为是一种公正的方式来检查SATA前沿模型制造商和其他人的绩效声明。这并不是Epoch第一次陷入争议。去年12月，Epoch透露OpenAI支持了其一个AI基准的创建，然后ChatGPT的制造商使用该基准来发布其新的o3模型。社交媒体用户认为Epoch应该更公开地说明这种关系。当Besiroglu宣布Mechanize时，社交媒体用户Oliver Habryka回应说：“唉，这似乎近似证实了Epoch的研究直接为前沿能力工作提供了支持，尽管我曾希望它不会真的来自你。”
Besiroglu表示，Mechanize得到了科技界重量级人物的支持，包括Nat Friedman、Daniel Gross、Patrick Collison、Dwarkesh Patel、Jeff Dean、Sholto Douglas和Marcus Abramovitch。Friedman、Gross和Dean没有回应TechCrunch的置评请求。Marcus Abramovitch确认他进行了投资。Abramovitch是加密对冲基金AltX的管理合伙人，自称是“有效利他主义者”。他告诉TechCrunch他投资是因为，“这个团队在许多方面都非常出色，并且对AI的思考比我认识的任何人都更深入。”
Mechanize的技术愿景与社会影响
尽管面临批评，Besiroglu认为让代理完成所有工作实际上会通过“爆炸性经济增长”来丰富人类，而不是使他们陷入贫困。他指出了一篇他发表的相关论文。“完全自动化劳动可以产生巨大的财富，更高的生活水平，以及我们今天甚至无法想象的新商品和服务，”他告诉TechCrunch。这对于拥有这些代理的人来说可能是真的。也就是说，如果雇主为它们付费，而不是在内部开发它们（可能由其他代理完成？）。另一方面，这种乐观的前景忽视了一个基本事实：如果人类没有工作，他们将没有收入来购买AI代理生产的所有东西。尽管如此，Besiroglu表示，在这样一个AI自动化的世界中，人类的工资实际上应该增加，因为这样的工人在AI无法执行的互补角色中“更有价值”。但请记住，目标是让代理完成所有工作。当被问及这一点时，他解释说：“即使在工资可能下降的情况下，经济福祉也不仅仅由工资决定。人们通常从其他来源获得收入——如租金、股息和政府福利。”所以也许我们都靠股票或房地产为生。如果失败，还有福利——如果AI代理在纳税的话。
即使Besiroglu的愿景和使命显然是极端的，但他试图解决的技术问题是合法的。如果每个人类工作者都有一个个人代理团队来帮助他们完成更多的工作，经济繁荣可能会随之而来。而且Besiroglu至少在一个问题上无疑是正确的：在AI代理时代一年后，它们并不十分有效。他指出，它们不可靠，不保留信息，难以独立完成任务，并且“无法执行长期计划而不出轨”。然而，他远非独自一人在努力解决这些问题。像Salesforce和Microsoft这样的巨头公司正在构建代理平台。OpenAI也在这样做。而且代理初创公司比比皆是：从任务专家（外向销售、财务分析）到那些致力于训练数据的人。其他人则在研究代理定价经济学。与此同时，Besiroglu希望你知道：Mechanize正在招聘。
AI代理技术的现状与局限性
Besiroglu对AI代理技术的局限性有着清晰的认识。他指出，当前的AI代理存在诸多问题，如不可靠性、信息保留困难、独立任务完成能力不足以及长期计划执行的偏差等。这些问题限制了AI代理在实际工作中的应用，也使得Mechanize的全面自动化目标面临巨大挑战。
然而，Besiroglu并非唯一关注这些问题的人。科技巨头如Salesforce和Microsoft正在积极构建代理平台，以解决这些技术难题。OpenAI也在进行相关研究。此外，还有许多专注于特定任务的代理初创公司，如外向销售和财务分析等。还有一些公司在研究代理的定价经济学，以探索如何在商业环境中有效部署和利用AI代理。
尽管当前的AI代理技术还存在诸多不足，但Besiroglu和Mechanize的愿景提醒我们，全面自动化可能不再是遥远的梦想。随着技术的不断进步和创新，我们或许将迎来一个由AI代理主导的工作和经济体系。然而，这也引发了关于人类角色定位、就业机会和社会公平等一系列重要问题的思考。我们需要在追求技术进步的同时，认真考虑这些问题，以确保AI的发展能够真正造福人类。
