内容简介
随着AI技术深度融入医疗、金融、交通等关键领域，其安全风险已从技术问题升级为关乎社会稳定与伦理的核心挑战。本书以通俗易懂的“故事+对话”形式，揭开AI安全的神秘面纱，以“AI的攻防博弈”为主线，通过32个故事系统剖析AI时代的核心挑战和解决方案。
本书分为五篇，旨在帮助读者构建AI安全认知体系。第一篇从AI泄露用户隐私、AI应用技术风险等案例切入，揭示AI安全的重要性，勾勒攻防战场全貌；第二篇聚焦技术与管理双重维度，深入模型鲁棒性、可解释性差、数据质量与数据投毒等九大核心问题，探讨技术漏洞背后的伦理与法律困境；第三篇详解对抗样本、模型窃取攻击等十一类攻击手法，并给出对抗训练、可解释性工具等防护方案；第四篇展示AI如何赋能安全，包括安全大模型、AI代码审计工具等，以及电信运营商实践案例；第五篇聚焦AI安全行业动态与未来发展趋势，展望AI安全在标准规范、产业研究方向的趋势。
本书适合AI行业的技术人员（网络安全从业者、AI工程师）阅读，也适合关注AI合规的企业管理者借鉴，还适合希望系统理解AI安全的高校师生与探索者学习。
精彩书评
随着AGI（通用人工智能）的脚步日益临近，AI安全已经成为人类面临的最大挑战之一。能否保证超级智能始终遵从人类的价值观，服从人类的合理命令，将决定人类文明的命运。本书以通俗易懂的“对话+故事”形式，生动形象、深入浅出地介绍了AI面临的安全挑战、AI攻防的理念和应用。即使你不了解AI基础知识，也能轻松理解看起来很深奥的AI安全问题、攻击和防御手段，进而防御和规避AI安全风险。
李博杰，Pine AI联合创始人、首席科学家
在AI全面融入现实生活的今天，我们已经无法回避一个关键问题：AI越强大，风险越复杂，安全越重要。本书以科学严谨的框架、深入浅出的表达，将AI安全领域的关键问题与前沿动态清晰地呈现出来。无论你是技术从业者、政策制定者，还是关注AI安全未来趋势的普通读者，都能在这里理解AI安全。这不仅是一本书，更是一份面向未来的风险预警与思考指南。
段海新，清华大学教授、清华大学网络与信息安全实验室主任
从业二十余年，我深知AI安全领域最大的挑战并非来自技术本身，而在于“专业术语壁垒”所导致的认知隔阂。本书最难得的突破是以工程师的严谨结合科普作家的通俗笔法，将AI攻防、AI赋能安全等复杂议题讲得既透彻又明了。本书所收录的攻防案例，既有来自实验室的技术验证，也不乏真实场景的复盘分析，尤其是从“攻击者视角”展开推演，引导读者从对抗中理解防御的本质。无论你是AI开发者、安全工程师，还是企业管理者，都能在阅读过程中找到应对AI安全挑战的钥匙——这正是这部实战派作品的硬核价值所在。
金华敏，中国电信研究院云网安全实验室副主任
在AI通识教育中，安全往往是被简化的“附赠品”，本书以“白话”之名，构建了一套完整的知识体系，既涵盖了机器学习模型的脆弱性、数据投毒等基础概念，又延伸至生成式AI的滥用风险、AI伦理治理等前沿议题，兼具学术深度与实践温度。本书适合作为教师的教学参考书与本科生的入门教材，也适合研究生找寻研究方向，更适合AI行业人员快速构建系统化的安全认知，补足理论短板。
林明，广东工业大学自动化学院博士生导师
目录
引子 安教授的AI安全第 一课 1
第 一篇 AI安全初探 5
故事1 AI的崛起：从图灵测试到大模型 6
故事2 AI安全风险案例：AI的安全黑洞 15
故事3 AI安全的重要性：AI的守护使命 26
故事4 AI安全攻防全貌：AI的攻防战场 37
第二篇 AI面临的安全挑战 47
故事5 AI模型的脆弱心脏：模型鲁棒性问题 48
故事6 AI模型的黑箱之谜：可解释性挑战 57
故事7 AI数据的污染危机：数据质量与数据投毒风险 66
故事8 AI算法的双刃剑：漏洞、攻击与滥用 77
故事9 AI的偏见：算法歧视与公平性 87
故事10 AI的责权：责任归属与法律挑战 93
故事11 AI武器化的隐忧：军事化应用的安全风险 101
故事12 AI时代的数据隐私保护：技术与法规解析 108
故事13 AI应用的合规挑战：各国规范性文件对比与发展趋势 118
第三篇 AI安全攻防及应用 129
故事14 扰动输入样本：欺骗AI的魔术 130
故事15 数据投毒攻击：污染AI的源头 140
故事16 模型窃取攻击：偷走AI的大脑 150
故事17 后门攻击：隐藏在AI中的定时炸弹 159
故事18 提升AI模型鲁棒性：应对输入样本扰动 168
故事19 AI数据安全防护：防御AI数据投毒 178
故事20 AI模型知识产权保护：防止模型窃取与滥用 188
故事21 AI系统安全加固：检测与防御后门攻击 197
故事22 AI内容安全的“守门员”：虚假信息识别与多模态过滤 207
故事23 AI周边安全的防护网：保障AI系统的安全 217
故事24 AI管理的“安全屋”：构建AI安全管理体系 225
第四篇 AI赋能安全 235
故事25 AI赋能安全攻防的“神兵利器”：关键技术解析 236
故事26 AI在安全测试中的利与弊：漏洞挖掘与代码审计 245
故事27 AI赋能安全防御：构建“铜墙铁壁” 253
故事28 安全产业的变革者：重塑安全生态 262
故事29 安全设备和系统的升级者：提升安全能力 271
故事30 电信运营商AI安全实践：实战案例分享 280
第五篇 AI安全行业动态与发展趋势 291
故事31 全球AI安全标准化组织：规则制定与发展 292
故事32 AI安全研究的风向标：最新研究进展 301
后记 310
