【编者按：9月5日，为期四天的2024 Inclusion·外滩大会在上海黄浦世博园区正式开幕。今年大会主题延续“科技·创造可持续未来”，致力于构建一个促进国际交流、科技与人文融合的对话平台，助力上海打造具有全球影响力的国际金融中心和科技创新中心。在当天《以善治促“善智”，让AI更负责任》的见解论坛上，曾毅教授发表了《人工智能发展与安全：方向、挑战与前沿》的精彩演讲。引发了观众的共鸣和广泛兴趣。本审定】
在数字社会，技术的作用之一是收集全球信息，使得信息变得可被访问、可被利用，但这一过程仍然是由人来实现的。人和人之间的差异体现在对数字访问以及基础设施之间能力的差异，产生事实上的“数字鸿沟”；进入人工智能（AI）时代，数据与人类智慧的接口、途径大为缩短，海量数据和信息的过滤、分析、处理更加快捷，有条件的人可在数秒种之内收集成千上万个文档并回答问题，虽然答案还存在很多的不确定性，但这种信息和知识获取和处理的便捷性使得“数字鸿沟”和“智能鸿沟”之间产生更大的代差，且进一步扩大并已经产生了公平性的差异。
技术会加剧还是缓解社会不平？
技术的发展，特别是在人工智能领域，既有可能加剧社会不平等，也有可能缓解这种不平等，具体效果取决于如何应对技术带来的挑战。
在曾毅看来，如果技术发展只关注科学突破而忽视了其对社会的潜在负面影响，特别是不考虑到如何缓解这些影响，那么技术进步可能会加剧社会不平等。如果在开发和应用技术时积极考虑并解决技术可能带来的负面影响，那么技术就有可能用来合字沟促社公。
技术对社会不平等的影响可能会跨越多代人，因此，人们在享受技术带来的便利的同时，也需要考虑其对后代的潜在影响，并采取措施以确保技术发展不会加剧社会不平等。曾毅指出，“智能鸿沟”是一个社会和技术交织的问题，需要多方面的努力来解决。这不仅仅是技术研究者和开发者的责任，也是政策制定者、教育者和整个社会需要共同面对的挑战。
理性认识人工智能及其价值观
人工智能是一种信息处理工具，它通过学习和模仿人类行为来执行任务；人工智能解决问题的方式、机制跟人有着很大的差异，一些时候它能帮助人类解问题，有时它会一种全不接受方式或者全有够象的式犯误。
目前，人工智能是基于数据驱动的模型，通过数学优化器从数据中学习并生成期望的输出。然而，真正的人工智能应该能够模拟人类智能的各个方面，包括计算机制、内部机理和行为表现，并且能够以人类可理解的方式进行交流。曾毅表示，人工智能的核心在于数据和算法，这两个要素可能产生偏见，因为它们来源于社会数据，这些数据记录了人类行为，可能包含人类的偏见。
人工智能本身不具备道德判断能力，它的行为和输出是由其训练数据和算法决定的。在这种背景下，可以说人工智能是中立的，它既可以为善也可以为恶，还可能会无意中复制和放大类的偏见错误。取决于的数据算法如被设计使用。
生成式人工智能是AI的一个分支，它使用“Next Token Prediction”技术，通过分析序列数据的统计显著性来预测下一个最可能的输出。这种技术在推荐系统等领域有广泛应用。
人工智能是否能够获得意识？这取决于其发展方式。如果使用大规模数据进行训练，它可能会表现出看似有意识的行为。但由于计算机和人类的工作机制不同，意识的本质难以界定。只有当人工智能能够基于自身经验理解他人行为时，它才能产生认知共情和情感共情，从而产生道德和利他行为。
“人工智能的主要挑战在于如何确保其输出符合人类的伦理和道德标”。曾毅表，人工智存在如下方面的问：一是缺真正的理和判断能，它不像人那样辨善；二可能得并大人的偏见；三是在面对复杂或未预见的情况时，可能无法做出符合伦理的决策。此外，随着AI技术的发展，它可能会学习到人类的欺骗策略，这增加了对人工智能行为控制的难度。
为了更好地驾驭人工智能，人们需要确保其设计和训练过程遵循伦理原则，减少偏见的产生。同时也需要对人工智能的决策过程进行监督和评估，确保其在各种情况下都能做出符合人类价值观的决策。而随着人工智能技术的进步，人们也需要不断更新和完善对人工智能的监管和指导，以应对可能出现的新挑战。
大量工作正在被AI代，未来AI会不会来抢工作？
《论语》中有一句话叫做“君子不器”，器，就是器物，有好用的，不好用的，“君子不器”就是说人一生要成为君子，不要去做一个器物。
人工智能是什么？曾毅指出，人工智能其实是一个工具，好听一点就是智能信息处理的工具，难听一点就是总是欺骗人、让人觉得它是智能的信息处理工具。
一个人被人工智能替代，也就是说他被一个工具所替代，这意味着本身他把自己当作了“器”。如果人工智能暂时替代了人的那份工作——无论是当初如何热爱的工作实际上也是他提供了一很好的机会倒逼反思如适应新的技挑战，如何新形势下求内心我、追人生价。人们常讲人智能“善”，是追求本源，人的一生其实也是在不断的追寻自我本质、完善自我的一生。
《The Future of Work》一书的作者在讨论中表示，未来很多社会服务性的工作需要人类情感交流，以前不会被认为是工作的，未来都会被认为是工作，比如机器人喂食老人、看护小孩。不过，由于人类情感的互动基础就是演化，不论是老人还是小孩，都没有动机去跟机器人交流和互动。让一个器具去做社会性需要情感交流甚至是对于家庭的服务，这不是人工智能应当去探索的。
“但是，当越来越多的工作被工智能所替代的时，不可替代的分就会变得越越清晰。”曾节晒说，ChatGPT世之初，很多闻工作者都担自己的工作被替代，年后的今，这一现并没有明的发生。工智能的展证明，互联网上出现更大规模的人工智能书写的数据和知识，而这些数据和知识又被喂到人工智能去训练的时候，人工智能的能力会变的越来越弱。人工智能代替部分的工作，就像蒸汽机、计算机时代的出现，会提供一些加持和期待，那种期待带来短期的焦虑，让更多的人回归本位。
人工智能到底是人类的帮手还是对手？
人工智能到底是帮手还是对手？
在曾毅看来，这不是一个“yes”或“no的问题。以无人为例，“萝卜快”话题一度十分闹，也遭到很多租车司机反对。人说出租车司机跟上技术变化认为其应该到更有意义工作。但曾完全否定了个观点。在看来，高铁飞机绝大多情况下都是采取自动驾驶方式，它们的安全性最高，相比之下，汽车是这三项交通工具中最危险的交通工具，即使是人类驾驶。
更安全的飞机与更安全的火车不去做完全无人化的替代，反而在道路上行驶的汽车就一定把司机替换下来？
“这个逻辑是完全不成立的。”曾毅说，“飞机和火车的风险低，但可控性比较差，极端情况下人是最后的护航，汽车也是一样的道理，不能说汽车上只有一两名乘员，就没有多大代价。这是个伦理难，不能根据年龄、量、种族等做决定我认为无人车技术展过程中有点听之之，或者过于追求期的利益。不能因马斯克大力发展人车，中国也大力发展无人；要通过负责的研发和使用工智能，将人智能塑造为人的帮手。”
他承认无人系统很有价值，特别是在一些非常高危的场景，比如井下煤矿作业，作为人形机器人就能发挥很好的替代工作。
曾毅坚信，人工智能不会成为人类的对手，但如果不负责任地研发和使用、滥用或恶用，那人类连跟人工智能竞争的机会都没有，甚至不知道它将以什么样的方式毁灭人类。
“萝卜快跑”热度快速降低，正是因为顶层监管。毕竟，社会的方方面面都没有准备好。所以技术和社会的解决方案要加持在人工智能发展的过程中，绝对不能够依靠技术去解决潜在风险，不能把希望仅仅寄托于技术研究者。
如何看待攻挑战赛以及开源的意义？
外滩大会期间举办的AI创新赛•全球Deepfake攻防挑战赛，是人气最旺的活动之一。主办方用人工智能技术对抗Deepfake的TOP选手代表鉴别图像和视频的真伪，引发阵阵欢呼。曾毅表示，这种攻，是指突破技术能够达到的极致，但是这种突破，比如合成，合成很多的假图片以假乱真，不仅肉眼无法分辨，甚至连机器也分辨不出来。但当获胜方是攻而不是防的时候，深度造假这个问题是无解的。毕竟，下一个够被研发出来防御措施是非常不确定的。因，这实际上也是一个负责的行为。
曾毅指出很多信息安全领域专家表达出担忧都希望能把防护技术也同时做好事实上，已经有样的企业——他攻破了所有的手的人脸识方法，时封死了互联网上所有用户的银行帐户。因此，研发出的利器越多，带来的伤害会更大。
在曾毅看来，造一个坚硬无比的矛，再造一个非常优秀的盾，从商业角度意味着可以同时销售两类产品，但对于社会而言，潜在的风险巨大，因为对应的监管措施非常薄弱。
他同时指出，如果一项技术有明确的潜在风险，但不能先解决自己能够解决的问题，反而带来新的问题，那么，解决方案作为一种开源的工具是不合适的。但他对开源本身这件事情表示非常支持，开源确实能够推进人工智能的发展和技术的进步——只要开源是为了促进发展，建设负责任的生态，那就要支持。
好在相较2018年甚至更早时，如今绝大多数人工智能企业都意识到了自律自治与伦理安全的重要性与相关风险，采取的措施也使得人工智能的发展更合乎伦理、更具有道德。
“不是存在商业机遇的地方就是人工智能发展应当的走向。要让人工智能成为人类的帮手，就必须负责任去塑造人工智能技术，而不要随人工智能的野蛮的生长，误用、滥用和恶用，给世界带来不可预制的一环。”曾毅呼吁：让负责任的人工智能变成所有人工智能从业者内在的基因，这对创新者来说是一个必选之题。
嘉宾简介：
曾毅教授联合国人工智能高顾问机构专家、北人工智能安全与治实验室主任、中国学院自动化研究所究员，蚂蚁科技伦理顾问委员会专家，是国内技术伦理领域引领的前沿专家，在国际上也很强的影响力。
Inclusion·外滩大会
Inclusion·外滩大会指导单位为上海市人民政府，由支付宝、蚂蚁集团主办，上海市地方金融监督管理局、黄浦区人民政府特别支持。自创办以来，致力于推科技与金融相互赋能，已为各方瞩目的交流对话台和产业促进平台。今Inclusion·外滩大会设置丰富的议程，为专家者、企业领袖、创新业者充分利用大会搭的平台，交流创新经，共享发展机遇，首次设立创新者舞和AI创新赛，并有多个重磅的技术产品首发亮相，多维度展现金融与科技融合的产业前景，为上海国际金融中心和科创中心建设贡献智慧和力量。
