软件正在改变世界，而人工智能正在重新定义未来。

人工智能在伦理挑战和社会转型中的奥德赛之路。

我与计算机有着长期的、情感上的和孩子般的联系。我的程序员之旅始于 1982 年，当时我 11 岁，我与软件的第一笔交易是在13岁时为一家科技杂志出售一个国际象棋游戏的代码。同年，我也成为了一名年轻的科幻小说读者。我发现自己被艾萨克·阿西莫夫 (Isaac Asimov) 的作品迷住了，他对充满智能机器的未来的生动描绘激发了我内心的惊奇和好奇心。同时，我无法摆脱这样一种感觉，即技术进步的快速步伐可能会引发一种集体的 "向山丘进发 "的情绪--一种对人工智能（AI）对社会的潜在后果的紧迫感甚至恐惧。

Asimov's 的《机器人》系列描绘了一个人工智能和人类共存的世界，共同解决复杂的问题，推动文明的发展。这些故事不仅激发了我的想象力，还激励我追求计算机科学家的职业。最终，这种对计算机和软件的热情使我成为一名科技企业家，因为我渴望在现实世界中贡献和使用它们的变革潜力。我在1995年共同创立的公司CI&T自豪地宣布其宗旨是 "Make their tomorrow/构筑新未来"，这反映了我们致力于使用技术为我们的客户、我们客户的客户以及整个社会创造更美好的未来。

在过去的三十年里，正如你可能想象的那样，跟上和推动技术趋势一直是我生活中不可或缺的一部分。我一直密切关注人工智能的进展，认识到它是我们领域的下一个的前沿领域，尽管预测它何时能被主流采用一直是个挑战。十年前，CI&T通过使用第一代机器学习平台为我们的客户解决现实世界的挑战，成为技术服务行业的先驱。虽然这种实践经验是鼓舞人心的，但很明显，这种技术还没有达到其可扩展的潜力。

快进到去年 11 月，和其他人一样，我对 OpenAI 的 GPT-3.5 模型的功能印象深刻，特别是与早期的GPT版本和市场上以及学科门类内的许多其他大型语言模型（LLM）相比。

作为一个科技企业家，这是一个令人兴奋的时刻，因为我和我在CI&T的同事们一起在这场不可避免的革命中塑造我们的角色。然而，我将冒着风险在这篇文章中展开更广泛的讨论。

​一个生疏的程序员的启蒙

我对生成式 AI 的真正“启蒙时刻”发生在今年早些时候的一个星期六晚上。对 ChatGPT 的编码能力很感兴趣，我决定和我的新 AI 伙伴一起编码。忍不住时不时的写点代码，通常是参加CI&T的内部比赛预测足球比赛比分的算法。我上一次认真的编码经历是在 20 年前，所以我是一个生疏的程序员。即便如此，我们还是连续编码了六个小时，就像过去的美好时光一样，这是一次愉快的经历。 

我的想象力从1982年我第一次触摸Commodore 64键盘开始，到与一个预先训练了1750亿个参数的AI模型进行编码的科幻体验（与GPT-4相比，确实是一个人工智能的雏形）。当我们在编码时，我与我的新伙伴分享了我在大学时代只用一个退格符就买下的大众甲壳虫的有趣故事。我是用我为一家全球性的德国公司解决了一个错综复杂的错误而赚来的奖金买下它的,只用了一个按键：退格。命运让我带着这辆容易自燃的勇敢的米色老甲壳虫（后座危险地靠在电池上），我在 90 年代拜访了第一批 CI&T 客户。

当我准备睡觉的时候，我意识到有两样东西不见了：我的那瓶酒和我对生成性人工智能的准备情况的怀疑。第二天醒来，我更加坚定地要成为科学和工程领域前所未有的生产力颠覆的一部分。尽管我对这个难得的机会感到兴奋，但不可避免地要反思潜在的风险。在这里，我将提供关于我们即将开始的这场冒险之旅的观点，看看一路上我们可能会遇到的惊喜和危险。

围绕人工智能的炒作和争议

人工智能不仅仅是炒作。这是一项具有现实应用和快速进步的变革性技术。然而，围绕人工智能的炒作，导致了过高的期望和误解。

事实上，AI 已经穿越 Gartner 著名的技术成熟度曲线已有相当长的一段时间，目前已经达到“过度期望的顶峰”，很快就会下降到“失望的低谷”，然后登上 "领悟的斜坡"，最终在 "产品实用化与生产力的高原"实现广泛的应用。以我的愚见，周期的这些即将到来的阶段将在短暂的时间内发生。短期内，我们应该预料到围绕 ChatGPT、 LLM 和 AI 的大量争议，包括隐私问题、版权、错误信息和知识产权问题，模型训练缺乏透明度，以及对道德护栏有效性的质疑。ChatGPT 每周都会推出数百款面向日常用户的应用程序，其快速增长在短短 2 个月内就达到了创纪录的 1 亿用户，这不仅凸显了这种影响的重要性，也极大地加剧了随之而来的争议。

AI正在改变改变软件格局，重新定义工作

马克·安德森 (Marc Andreessen) 的开创性文章“软件正在吞噬世界”于 2011 年发表在《华尔街日报》上。在这篇文章中，安德森认为，软件正日益成为现代生活各个行业和各个方面的核心，推动重大变革并颠覆传统商业模式，以新的和意想不到的方式改变世界。

在这种情况下，过去十年我从 CEO 和商业领袖那里收到的最常见的问题之一是，“Cesar，以当前对软件开发的需求速度，人类的很大一部分是否需要学习如何代码？”。我的标准回答是，“不，一个新的抽象层即将出现。很难预测它何时会到来。”

我的回答是基于软件开发历史演变的逻辑推论：从 ENIAC 中手动连接电线和开关到穿孔卡时代，然后是对汇编语言的迷恋，最后现代编程语言的魅力（及其过程式、面向对象、函数式和声明式方法的风格）。与前一层相比，这些连续的抽象层中的每一层都使生产力显着提高了 10-100 倍。

最后，新层的基础已经奠定：人工智能已经通过引入急需的抽象级别彻底改变了软件开发，因此我们将再次获得 10-100 倍的提升。然而，每个新层带来的不仅仅是提高生产力，它还增强了我们解决问题的能力。通过利用高级概念和自然语言，我们将能够更高效、更准确地创建软件和互连平台，同时还能解决复杂问题并提供下一代超个性化用户体验。

软件将继续改变世界，而人工智能层的加入将极大地改变我们所能解决的问题的种类。我们站在无限机会的边缘，热切期待这个不断扩大的菜单的第一道菜。

虽然不是每个人都需要编码，但人工智能很可能会影响未来的每一个职业，就像每次技术革命——从工业时代到个人计算再到互联网——通过引入在大多数工作中创造和弃用活动一样的新工具。几十年后，当前和未来工作之间的差异将与将中世纪的职业与当代的工作方式进行比较一样巨大。

充满可能性的美丽新世界

作为一种通用技术，人工智能将增强我们人类感知、处理、学习、分享和行动的能力。这种学习循环将融入一切，以更快的速度驱动众多功能。比以往任何时候都更多的人可以获得负担得起的工具，这些工具可以增强他们的力量和创造力，并影响他们的生活。它发生的速度比预期的要快。

使用这些工具解决看似不可能的问题（例如人类生物学、癌症、痴呆症、长寿、聚变能或预测自然灾害）的潜力是惊人的。具体的故事将不像打败世界第一国际象棋大师，而更像是以前所未有的速度和范围解决生物学最大的挑战之一，即蛋白质折叠问题（正如 DeepMind 的 AlphaFold 所展示的那样）。它将彻底改变医学和科学，导致新的疾病治疗和发现，并改善人类的福祉。我们最终可以设想真正的知识民主化，这可能会产生重大的积极影响，例如世界各地被剥夺了优质教育的儿童可以通过他们的低成本手机获得聊天机器人导师。

科技巨头之战

科技巨头之间为主导生成式 AI 领域及其基础而展开的行业大战只是 AI 巨大潜力的一个征兆。值得注意的是，大型语言模型的第一个高影响力应用程序并不是由一家拥有无限预算和数千名博士和工程人员的行业巨头发布的。一家最初是非营利性的初创公司 OpenAI 凭借一个不到 350 人的“小”团队（按照硅谷的标准），尽管困难重重，却实现了这一壮举。

箭在弦上：随着微软和 OpenAI（现在“不那么开放”和以营利为目的）形成了强强联手的合作伙伴关系（Satya 的伟大举措），我们可以期待谷歌、亚马逊采取大胆的（有机的和无机的）行动和 Meta 以应对这种竞争威胁。前所未有的风险投资资金也在押注于不计其数的新人工智能企业，完成了一个坚实的创新飞轮。

技术革命：过去和未来

纵观历史，各种通用技术革命重塑了社会，并引发了关于其后果和影响的伦理讨论。人工智能的出现与早期的几项变革有着惊人的相似之处，包括印刷机、蒸汽机、铁路、电力、内燃机、电话、收音机和电视、半导体、计算机、生物技术、互联网和智能手机。这些通用技术中的每一种都彻底改变了人类生活的不同方面，同时也引起了人们对安全、隐私、环境影响和社会变革的担忧。

在这里，革命再次产生，我们正在见证生成式人工智能所带来的改变与影响，同时潜藏着更多的可能性即将到来。不仅是“各种人工智能”，Web 3.0（区块链、加密货币、dApps）、物联网、VR/AR 和机器人技术也将因基础设施、通信（现在的 5G 和后来的 6G、太赫兹、Li-Fi）的进步而加速发展，以及计算能力和模型（GPU 和 TPU 的进步，现在的边缘计算和后来的量子计算）。

人工智能与以往革命之间的两个关键区别是变革步伐的加快以及这种创新异常广泛和普遍的性质。

颠覆的速度

随着技术的进步，创新扰乱社会的速度急剧增加。现在，有了人工智能，我们面临着前所未有的指数级变化速度的挑战，因为人工智能技术的快速发展和实施有可能在更短的时间内改变我们生活的各个方面。

与电力的发展一样，这些早期的技术革命引发了关于这些创新的负责任使用和潜在后果的辩论，例如 19 世纪最后几十年托马斯爱迪生和尼古拉特斯拉描绘的著名“电流战争”。在我们应对与人工智能相关的伦理挑战并努力利用其潜力改善社会时，反思从这些过去的转型中吸取的教训可以提供宝贵的见解。 

人工智能的本质及其广泛的适用性

AI 的本质代表了与大多数以前的技术革命的关键区别。虽然早期的创新通常侧重于特定领域或应用，例如交通或通信，但人工智能有可能影响几乎所有行业和人类生活的各个方面，从医疗保健和教育到金融和娱乐。

此外，人工智能并不局限于单一类型的技术或应用，而是代表了多种多样的技术和方法，包括机器学习、自然语言处理、计算机视觉和机器人技术。人工智能技术的这种多样性意味着它们可以应用于广泛的问题和领域，从而使其潜在影响更加深远和更具变革性。

人工智能对社会的影响和伦理讨论的必要性

人工智能的快速发展引发了伦理问题，从工作岗位流失和有偏见的算法到安全隐患、恐怖主义行为和政府监控中的潜在滥用。强大的人工智能系统日益增强的自主性引发了激烈的争论，凸显了社会解决这些问题以充分发挥人工智能潜力的必要性。

通过促进公开对话并向当地和全球监管机构发出合理的行动呼吁，我们可以确保在追求科学知识的同时培养必要的智慧，以应对与人工智能和其他技术进步相关的挑战。参与这些道德讨论将帮助我们塑造一个反映我们集体价值观和愿望的未来，并使我们能够创造一个更加可持续、高效和相互关联的世界。

不可阻挡但可监管

让我们面对残酷的事实：由于消费者需求、经济激励、全球竞争、技术民主化、相互关联的行业和社会适应性，人工智能的颠覆在现代民主和资本主义社会中是不可阻挡的。此外，考虑到地缘政治的复杂性和威胁，试图阻止技术进步应被视为误导和幼稚的举动。

我们不能也不应该阻止人工智能的快速发展。作为人类，我们仍然面临着巨大而复杂的挑战需要应对。人工智能有潜力以无数种方式改善人们的生活，包括实现我们对教育和医疗保健的梦想。人类的聪明才智正在开辟一条通往富足时代的道路，这可能是人类唯一的前进道路。

纵观历史，我们一再规范颠覆性技术，但创新的步伐正在迅速加快。因此，以技术为基础的社会必须适应并加快监管步伐，以有效建立平衡创新与公共利益并维护信任的护栏。

随着技术达到新的抽象层次，其监管框架的复杂性也在增加。指数级的进步需要一种元监管方法。这种方法将建立一套总体原则，以指导跨不同技术的“快速有效”监管流程，确保监管政策在技术快速发展的情况下保持相关性和有效性。并且不可避免地认为人工智能可以成为设计和执行这种新级别动态监管的盟友。 

澄清一下，我并不建议像Asimov的 "Runaround "故事那样，通过要求机器人为自己编程以遵循道德准则来创造一个递归悖论。相反，我建议用人工智能增强人类的能力，以开发更有效的监管框架。人工智能对齐的概念是这次讨论的核心；它旨在开发符合人类价值观和意图的人工智能系统，保证他们的行为在变得更加智能和自主时保持有益、透明和安全。通过实施涉及跨学科合作、经济激励和对不合规模型所有者的法律后果以及所需的安全认证的全球监管框架，我们可以确保人工智能的调整与人工智能的能力保持同步。人工智能势不可挡，但必须对其进行明智的监管。

Asimov愿景的回响

随着世界对人工智能潜能的不断开发，我们发现自己处于一个越来越像Isaac Asimov几十年前想象的现实中。
从Bill Gates 的乐观和企业家视角（见 "人工智能时代已经开始"）到Yuval Harari令人震惊的悲观前景（查看 "你可以拥有蓝色药丸或红色药丸，而我们已经没有蓝色药丸了"），我们必须考虑这些进步的道德影响。

我不认为我们应该逃避，至少现在还不行。当我们继续探索人工智能未开发的潜力时，关键是要记住Asimov的话，努力平衡我们对科学知识的追求和指导我们行动的必要智慧。

人工智能革命才刚刚开始，我们可用的技术能力菜单正在发生根本性的变化。赌注比以往任何时候都要大，我们必须确保我们能引导这场奥德赛的进程，确保我们驶向一个能改善所有人的目的地。凭借智慧和勇气，我们可以塑造我们希望看到的未来。

原文发表于《MIT Sloan Review》。

---