驯服AI:创造可信的人工智能
内容简介
· 你有没有被AI自信满满地欺骗过?
· 大模型一个比一个强,可它们说的话,你能信几分?
· 是你在使用AI,还是AI在使用你?
· 技术跑得比监管快,这场实验中的小白鼠是谁?
在这本书中,作者深入阐释了生成式人工智能的潜在风险,总结了它带给我们的12项迫在眉睫的威胁,包括自动化虚假信息、市场操纵、非自愿深度伪造、数据泄露、版权侵害、环境代价等;重点剖析了“AI幻觉”问题:从技术本质上揭露大语言模型的致命缺陷,指出其混淆事实真相、罔顾统计规律的核心问题。
这本书揭示了硅谷企业如何通过舆论操控和游说手段,影响公众认知与政府政策,阻碍有效监管的形成。随后,书中提供了一套具体可行的治理框架,包括8项行动建议,涵盖隐私立法、追责机制、人工智能素养教育、独立监管和敏捷治理等。
作者讲清了AI应该被如何约束,以及我们普通人对此要如何做出反应。这本书有助于科技行业从业者、政策制定者及关注AI发展的普通读者理解:AI监管不是压制创新,而是将技术发展纳入负责任的轨道。
作者简介
[美]盖瑞·马库斯
· 美国知名的认知科学家,纽约大学教授,师从史蒂芬·平克,在认知心理学、神经科学和人工智能交叉领域做出重要贡献。
· 他以激烈批判当代“人工智能炒作”而闻名,经常挑战关于深度学习和神经网络的主流观点,甚至与山姆·奥尔特曼、杨立昆等人论战,呼吁对人工智能进行监管,提高公众对人工智能的了解。
· 2014年,他创办了机器学习公司几何智能(Geometric Intelligence),并担任首席执行官。该公司于2016年被优步收购,随后他在优步创立了人工智能实验室。
· 2019年,他与机器人专家罗德尼·布鲁克斯共同创立了Robust.AI,专注于研发新一代的人工智能认知引擎,提供协作式移动机器人,帮助仓库和工厂提高效率。2024年,Robust.AI被世界经济论坛评选为年度技术先锋。




