当AI翻车，会造成多大风险？
如何在技术和社会层面，与AI建立互信？
AI时代，“信任”将演化出新的社会定义吗？
当我们“信任”AI时，我们到底信的是什么？

4月9日，马斯克在播客采访中预估“通用人工智能（AGI）将在两年内实现”，如果该评估成立，留给我们准备技术应用规则和社会心态的时间的确不多了。「Orpheus微见」第25期，我们邀请到2023年吴文俊人工智能科技进步一等奖得主周俊老师探讨了一个站在当下尤为关键的问题：

当AI在越来越多的领域和场景能力都强于人类的时候，我们能如何让AI更可被信任、尽可能消除这一“强大机器”的负面风险，在各种关键产业和场景尽可能安全、可控地落地和释放AI价值？

本期嘉宾周俊

2023年吴文俊人工智能科技进步一等奖得主
蚂蚁集团智能引擎技术事业部副总裁
蚂蚁集团AI创新研发部NextEvo语言与机器智能负责人

听友群已开通：添加微信 KingCrimson_备注「微见」即可拉群

▶ STRUCTURE & TIMELINE

一 \ GenAI急速发展，是否正脱离人的信任？

00:05 本期嘉宾介绍及话题介绍

02:19 大众传媒与业内研究：巨大感知差异

06:20 除了写字画画，AI如果在关键领域失信将造成哪些巨大风险？自动驾驶、金融、人脸识别……

14:33 为什么可信问题是GenAI落地最关键的问题？

二 \ 人与AI如何建立信任？系统中谁能为人代言？

15:45 各大AI企业对可信AI等领域的研究

17:28 蚂蚁NextEvo及周俊团队的研发方向及获奖项目

19:07 将AI的能力应用到社会和市场的公平性中

24:42 越是容错度低、重要性高的关键领域，越需确保AI落地可信度

25:08 国内与国外：基础研发到底掉队了吗？

30:35 小插曲：沉迷于研究大模型，周俊忘记去英国领奖

36:13 小语言模型，让每个人手机等设备中的AI也能更可信？

三 \ AI时代，“信任”的定义会再次被刷新吗？

38:15「可信」带来的公平性，让更多群体可以理解AI、从AI受益

43:27 「信任」之于AI，到底意味着什么？

44:58 信任的量化、标准化、动态化、情境化、去中心化，以及机器与机器之间的信任

51:49《骇客帝国》和《真实的人类》：人对AGI的天然信任隐忧

53:38 建立规则、拉近立场、训练能力

58:28「信任」之于AI时代的人，到底意味着什么？从歃血为盟到建立社会契约、金融体系再到今天

1:05:13 人的信任标准终归还是在人，人的怀疑催生AI时代的信任基石

1:08:26 是否相信AI，就是是否相信人类自己，以及人类的未来

Surfshark数据：AI事故增长15倍

数学家吴文俊先生

蚂蚁AI创新研发部NextEvo团队获CIKM2023最佳论文

英剧《真实的人类HUMANS》

最近AI识别毒蘑菇App盛行，但也出错导致有人误吃中毒

▶ 相关内容及延展阅读

《调查显示近12年由AI造成的事故暴涨15倍》

《蚂蚁集团周俊：大模型产业落地，关键是解决可信问题》

《大幅提升用户行为表征通用性，蚂蚁新模型CIKM2023最佳应用论文奖》

《Robust User BehavioralSequence Representation via Multi-scale Stochastic Distribution Prediction》（周俊团队获奖最佳论文）

《王俊秀：比人情信任更重要的，是契约信任》

《现代社会契约论》

《社会心态理论》

▶ 本期提到的部分专有名词

Q* / Hallucinate 幻觉 / 金融机器学习平台 / CMU（Carnegie Mellon University）卡耐基梅隆大学 / CIKM学术会议（美国计算机学会ACM主办）/ DeepMind / 王俊秀 / 齐美尔

▶ 嘉宾及主播介绍

个人公众号 Orpheus微见 ，欢迎关注

▶ 一起见微知著

听友群：添加微信 KingCrimson_ 备注「微见」即可拉群

Apple Podcast / 网易云音乐 / 喜马拉雅 / 微信公众号 / 微博 / 小红书等多平台同名

▶ 欢迎收听回声场ECHOCAST其他节目

025-AI加速进化，谁能为人类的信任代言？| 对话蚂蚁NextEvo周俊

Orpheus微见