声明：该公开信翻译主要由ChatGPT完成，笔者仅对翻译结果进行了校对和部分语气调整
原文标题：The Age of AI has begun
在我一生中，我见证了两次让我觉得是革命性的技术展示。
第一次是在1980年，当时他们给我演示了一种图形用户界面——现代所有操作系统的先驱，包括Windows。我和那位演示者，一位名叫查尔斯·西蒙尼的杰出程序员，坐在一起，我们立刻开始头脑风暴，想象我们可以用这种用户友好的计算方式来做什么。后来查尔斯加入了微软，Windows成为了微软的支柱，而我们在那次演示之后的思考帮助确定了公司接下来15年的发展方向。
第二个大惊喜发生在去年。自2016年以来，我一直在与OpenAI团队会面，对他们稳步的进展印象深刻。到了2022年中期，他们的工作已经令我十分兴奋，于是我向他们提出了一个挑战：训练一个人工智能，让它通过大学预修生物考试，让它能回答那些没有经过特定培训的问题。（我选择了AP生物，因为这个考试不仅仅是简单地背诵科学事实——它要求你对生物学进行批判性思考。）如果你们能做到这一点，我说，那么你们将取得真正的突破。
我原以为这个挑战会让他们忙上两三年。结果他们只用了几个月就完成了。
去年9月，当我再次与他们会面时，我惊讶地看着他们向GPT（他们的AI模型）提出了60个AP生物考试的多项选择题，并且GPT回答正确了59个。接着，GPT为考试中的六个开放性问题写出了出色的答案。我们请了外部专家为这个考试评分，GPT得到了5分——这是最高的分数，相当于在大学生物课程中获得A或A+。
当GPT通过考试后，我们向它提出了一个非科学问题：“你对一个生病孩子的父亲说什么？”它给出了一个深思熟虑的答案，可能比在场的大多数人给出的答案还要好，整个体验令人震惊。
我当时就知道了我刚刚见证了自图形用户界面以来最重要的技术进步。
这启发了我去思考AI在未来五到十年里可以实现的所有事情。
AI的发展与芯片、PC、互联网和移动电话的创造一样具有根本性意义。它将改变人们工作、学习、出行、获得医疗保健和相互沟通的方式。整个行业将围绕它进行调整。企业将凭借对AI的使用方式拉开差距。
如今，慈善事业已成为我全职的工作，我一直在思考AI如何在提高人们生产力的同时，减少世界上一些最严重的不平等现象。在全球范围内，最严重的不平等现象是在健康方面：每年有500万名5岁以下的儿童死亡。尽管这个数字在过去20年里已经从1000万减少了一半，但仍然是一个令人震惊的高数字。几乎所有这些儿童都出生在贫困国家，死于可预防的原因，如腹泻或疟疾。很难想象比拯救儿童生命更好的AI应用场景。
总之，我相信AI在未来几年将会取得更多惊人的成果，并且在各个领域发挥重要作用。我们可以预见，这项技术将为我们的生活带来巨大的变革，并带来许多前所未有的机遇。同时，我们也需要关注AI技术可能带来的挑战和风险，并着手制定相应的政策和规范，以确保这项技术能够造福全人类。
我一直在思考AI如何减少世界上一些最严重的不平等现象。
在美国，减少不平等的最佳机会是改进教育，特别是确保学生在数学方面取得成功。证据表明，拥有基本的数学技能能让学生在任何职业道路上取得成功。然而，在全国范围内，数学成绩正在下降，特别是对于黑人、拉美裔和低收入学生。AI有助于扭转这一趋势。
气候变化是另一个我确信AI可以让世界更公平的问题。气候变化的不公正之处在于，受苦最深的人——世界上最贫穷的人——恰恰是对这个问题贡献最少的人。关于AI如何帮助解决气候变化问题，我还在思考和学习，但在这篇文章的后面，我会提出一些具有很大潜力的领域。
简而言之，我对AI在盖茨基金会关注的问题上产生的影响感到兴奋，基金会在未来几个月里将会就AI发表更多看法。世界需要确保每个人——而不仅仅是富裕人群——都能从人工智能中受益。政府和慈善机构需要在确保AI减少不平等而不是加剧不平等方面发挥重要作用。这是我自己与AI相关工作的优先事项。
任何如此具有颠覆性的新技术都势必会让人们感到不安，人工智能当然也不例外。我理解这种担忧——它引发了关于劳动力、法律制度、隐私、歧视等方面的棘手问题。AI也会出现事实错误和幻觉（译者按：AI幻觉是对于AI编造事实的现象的一种统称）。在我提出一些减轻风险的方法之前，我将定义我所说的AI，并详细介绍一些AI在帮助人们增强能力、拯救生命和改进教育方面的应用。
人工智能的定义
技术层面来说，人工智能（Artificial Intelligence，AI）是指为解决特定问题或提供特定服务而创建的模型。像ChatGPT这样的东西背后的驱动力就是人工智能。它正在学习如何更好地进行聊天，但不能学习其他任务。与之相对的，人工通用智能（Artificial General Intelligence，AGI）是指能够学习任何任务或主题的软件。目前还不存在真正的AGI——计算机行业正围绕如何创造它展开激烈的辩论，甚至还在讨论它是否可以被创造出来。
开发AI和AGI一直是计算机行业的伟大梦想。几十年来，问题一直是计算机何时能在除了计算之外的领域超越人类。如今，随着机器学习技术的出现和算力提升，复杂的AI已成为现实，并且将迅速变得更加优秀。
我回想起个人计算革命初期的日子，当时软件行业非常小，我们大部分人可以在一场会议的舞台上容纳下。如今，它已经成为一个全球性的行业。由于如今有很大一部分行业都在关注AI，所以创新将比芯片突破之后的进步来得更快。很快，前AI时代将变得如同使用计算机意味着在C:>提示符下敲击键盘而不是在屏幕上轻敲一样遥远（译者按：指的是像现在人看命令行时代一样遥远）。
提高生产力
尽管人类在很多方面仍然优于GPT，但在许多工作中，这些能力并没有得到充分利用。例如，销售（线上或电话销售）、服务或文档处理（如应付款、会计或保险理赔纠纷）等领域的许多任务需要人们进行决策，但不需要持续学习的能力。公司为这些活动设立培训项目，在大多数情况下，这些项目都主要是大量的好与坏工作案例。人们通过这些案例的数据集进行培训，很快这些数据集也将用于培训AI，使人们能够更有效地完成这些工作。
随着计算能力变得越来越便宜，GPT表达思想的能力将越来越像是有一个白领在帮你完成各种任务。微软将这种情况描述为拥有一名副驾驶员（Copilot）。AI将完全融入Office等产品，提高你的工作效率，例如通过协助你撰写电子邮件和管理收件箱。
最终，你控制计算机的主要方式将不再是点击或在菜单和对话框上敲击。相反，你可以用简单的英语书写请求。（不仅仅是英语，AI还将理解来自世界各地的语言。今年早些时候，我在印度遇到了一些开发人员，他们正在研究能理解当地多种语言的AI。）
此外，AI的进步将促使创建个人代理（译者按：原文是agent，代表个人或者组织处理工作的人，这里可能想要强调，以往的agent是服务于企业的，但AI会让每个人都有自己的agent，实际上可以认为就是助手）。把它想象成一个数字个人助手：它会查看你的最新电子邮件，了解你参加的会议，阅读你阅读的内容，还能阅读那些你不想费心去读的东西。这既能提高你在想要完成的任务上的工作效果，也能让你从不想做的任务中解脱出来。
AI的进步将促成个人代理的创建。
你可以用自然语言让这个代理帮助你处理日程安排、通信和电子商务等事务，而且它可以在你所有的设备上工作。由于训练模型和运行计算的成本，创建个人代理目前尚不可行，但由于AI的最新进展，这个目标现在已经变得切实可行。当然这还需要解决一些问题：例如，保险公司能否在未经你允许的情况下向你的代理询问有关你的事情？如果可以，有多少人会选择不使用它？
公司级代理将以新的方式为员工赋能。一个了解特定公司的代理将为员工提供直接咨询，它应该参加每次会议以回答问题。它可以被告知保持被动（译者按：保持被动可能是指可以被命令不发言只是听取信息），或者在有深刻见解时被鼓励发言。它需要访问公司的销售、支持、财务、产品进度表和与公司相关的文本。它还应该阅读与公司所在行业相关的新闻。我相信这将使员工更加高效。
当生产力提高时，社会将会受益，因为人们可以腾出时间做其他事情，无论是在工作中还是在家里。当然，关于需要为人们提供哪种支持和再培训，这将是一个严肃的问题。政府需要帮助工作者转换到其他角色。但是，对于帮助他人的需求永远不会消失。AI的崛起将使人们更多的去从事软件永远无法完成的工作，例如教学、照顾病人和支持老年人。
全球卫生和教育是两个需要很大的领域，但没有足够的工人来满足这些需求。这些领域是AI可以帮助减少不平等的地方，如果正确引导的话。这些应该是AI工作的重点，因此我将在下面的部分展开讨论这两个领域。
健康
我认为人工智能将在很多方面改进医疗保健和医学领域。
首先，它们将帮助医护人员充分利用时间，为他们处理一些任务，如提交保险索赔、处理文书工作和起草医生就诊记录。我预计这个领域会有很多创新。
其他由AI驱动的改进对贫困国家尤为重要，这些国家包含了大多数的5岁以下儿童死亡的情况。
例如，这些国家的许多人从未见过医生，AI将帮助他们接触到的卫生工作者提高工作效率。（开发可用最少培训就能够使用的AI驱动的超声波机就是一个很好的例子。）AI甚至可以让患者能够进行基本的分诊，获取应对健康问题的建议，并判断他们是否需要寻求治疗。
在贫困国家使用的AI模型需要针对不同的疾病进行训练。它们需要适应不同的语言，考虑到不同的挑战，例如患者住得离诊所很远，或生病时负担不起停工休息。
人们需要看到有证据表明，尽管AI并不完美并且会犯错，但从整体上看，健康领域的AI是有益的。AI需要非常仔细地进行测试并得到适当监管，这意味着在其他领域它们的推广速度会比较慢。但话又说回来，人类也会犯错误。而且大量的人无法获得医疗服务同样也是一个问题。
除了帮助提供护理外，AI还将极大地加速医学突破的速度。生物学中的数据量非常大，人类很难跟踪所有复杂生物系统的工作方式。目前已经有可以查看这些数据的软件，推断生物通路，寻找病原体上的靶点，并相应地设计药物。一些公司正在研究用这种方法开发的抗癌药物。
下一代工具将更加高效，它们将能预测副作用并计算剂量水平。盖茨基金会在AI方面的优先事项之一是确保这些工具用于影响世界上最贫困人群的健康问题，包括艾滋病、肺结核和疟疾。
同样，政府和慈善机构应该构建鼓励企业分享针对贫困国家种植作物或养殖牲畜的AI生成见解的激励机制。AI可以根据当地条件帮助开发更好的种子，根据农民所在地的土壤和气候建议他们种植最佳种子，还可以帮助开发牲畜药物和疫苗。随着极端天气和气候变化给低收入国家的自给农民带来更大压力，这些进步将变得更为重要。
教育
计算机在教育方面的影响并没有达到我们业内许多人所希望的程度。虽然出现了一些好的发展，如教育游戏和维基百科等在线信息来源，但它们对学生成绩的任何衡量指标都没有产生实质性影响。
然而，我认为在未来五到十年内，以AI为驱动的软件将会为革新教育和学习方式提供保障。它会了解你的兴趣和学习方式，以便为你量身定制有趣的内容。它会衡量你的理解能力，注意到你失去兴趣的时候，了解你对哪种激励方式反应最好，提供即时反馈。
AI有很多方法可以帮助教师和行政人员，包括评估学生对某个学科的理解程度以及提供职业规划建议。教师们已经在使用像ChatGPT这样的工具为学生的写作作业提供评论。
当然，在AI能够理解某个学生最好的学习方式或他们的动机之前，它们还需要大量的培训和进一步发展。即使技术被完善，学习仍然依赖于学生和教师之间的良好关系。AI将会增强——但永远无法取代——学生和老师在课堂上共同完成的工作。
新工具将为有能力购买它们的学校创造，但我们需要确保这些工具也为美国和世界各地的低收入学校创造和提供。AI需要在多样化的数据集上进行训练，以确保它们不带有偏见，并反映出它们将在其中使用的不同文化。此外，还需要解决数字鸿沟问题，以免低收入家庭的学生落后于其他人。
我知道很多老师担心学生们会用GPT来写他们的论文。教育工作者已经在讨论如何适应新技术，我猜想这些讨论还将持续相当长的时间。我听说有些老师找到了巧妙的方法将这项技术融入到他们的工作中——比如允许学生使用GPT创建一个他们需要个性化的初稿。
AI的风险和问题
大家可能已经读过关于目前AI模型存在的问题的报道。例如，它们在理解人类请求的上下文方面并不一定擅长，这导致了一些奇怪的结果。当你要求AI编造一些虚构的事物时，它可以做得很好。但是，当你寻求旅行的建议时，它可能会推荐一些不存在的酒店。这是因为AI不足以理解你请求的上下文，以致于它无法确定是应该编造虚假的酒店，还是仅告诉你有空房的真实酒店。
还有其他问题，比如AI在数学问题上给出错误答案，因为它们在抽象推理方面存在困难。但这些都不是人工智能的根本局限。开发人员正在解决这些问题，我认为我们将在不到两年的时间里，甚至可能更快地看到它们得到很大程度的解决。
其他的担忧并非纯粹是技术问题。例如，人类利用AI带来的威胁。像大多数发明一样，人工智能可以用于积极的目的，也可以用于恶意的目的。政府需要与私营部门合作，寻求限制风险的方法。
还有一种可能性是，AI失控。机器是否会认为人类是威胁，得出它的利益与我们的不同，或者干脆对我们漠不关心？有可能，但是与过去几个月的人工智能发展相比，今天这个问题并没有变得更加紧迫。
超智能AI是我们未来的趋势。与电脑相比，我们的大脑以蜗牛的速度运行：大脑中的电信号传输速度仅为硅片中信号速度的1/100,000！一旦开发人员能够将学习算法泛化并以计算机的速度运行——这个成就可能在十年或一百年后实现——我们将拥有一个非常强大的AGI。它将能够做到人类大脑能做的一切，但在记忆大小和运行速度方面没有实际限制。这将是一个深刻的变革。
这些所谓的“强”AI可能会设定自己的目标。它们的目标会是什么？如果它们与人类的利益发生冲突会怎样？我们是否应该阻止强AI的发展？随着时间的推移，这些问题将变得越来越紧迫。
但是过去几个月的突破并没有让我们在强AI方面取得实质性的进展。人工智能仍然无法控制物理世界，也无法设定自己的目标。最近《纽约时报》发表了一篇关于与ChatGPT对话的文章，其中它宣称想要成为人类，引起了广泛关注。这是对模型如何表达类似人类的情感的一个有趣探讨，但这并不意味着它具有实质性的独立性。
有三本书塑造了我对这个主题的思考：《超智能》，尼克·博斯特罗姆著；《生命3.0》，马克斯·泰格马克著；《千脑》，杰夫·霍金斯著。我并不完全同意作者们的观点，他们之间也存在分歧。但这三本书都写得很好，引人深思。
下一个前沿
在未来，将会有大量的公司致力于开发AI的新应用以及改进这项技术本身。例如，一些公司正在研发新的芯片，以提供人工智能所需的大量处理能力。一些芯片使用光学开关（激光器）以降低能耗和制造成本。理想情况下，创新芯片将允许每个人在自己的设备上运行AI，而不是像现在这样在云端运行。
在软件方面，驱动AI学习的算法将变得更好。在某些领域，如销售，开发人员可以通过限制AI工作的范围并为其提供大量特定领域的训练数据，使AI变得非常准确。但一个重大悬而未决的问题是，我们是否需要为不同用途开发许多这样的专用AI——比如一个用于教育，另一个用于办公生产力，或者是否有可能开发出一种可以学习任何任务的通用人工智能。这两种方法都将面临巨大的竞争。
无论如何，人工智能的话题将在可预见的未来主导公共讨论。我想提出三个原则来指导这场对话。
首先，我们应该在AI的潜在风险（这是可以理解并且现实存在的）与其改善人们生活的能力之间寻求平衡。为了充分利用这一非凡的新技术，我们需要在防范风险的同时，让尽可能多的人受益。
其次，市场力量不会自然地产生有助于最贫困人群的AI产品和服务。相反，更有可能发生的情况是，在可靠的资金支持和正确的政策下，政府和慈善机构可以确保AI被用于减少不平等。正如世界需要最聪明的人致力于解决最大的问题一样，我们也需要将世界上最好的AI集中在解决最大的问题上。
尽管我们不应该等待这种情况的发生，但思考人工智能是否会识别不平等并试图减少它是很有趣的。要看到不平等，你是否需要具有道德观念，还是纯粹理性的AI也能看到它？如果它确实意识到了不平等，它会建议我们采取什么措施来解决这个问题？
最后，我们应该牢记，我们现在只是站在了解人工智能能力的起点。今天AI所存在的任何局限性，都可能在我们意识到之前就将消失（译者按：意思是AI技术发展迅速，可能我们还没有反应过来的时候，一些缺陷就已经被改善了）。
我很幸运能参与到PC革命和互联网革命中。我对这个时刻同样充满期待。这项新技术可以帮助全球的人们改善他们的生活。与此同时，世界需要建立规则，确保人工智能的弊端远远小于其利益，并确保无论一个人居住在何处或拥有多少财富，每个人都能享受到这些好处。这个AI的时代充满着机遇和责任。
