众多AI领域的探索者、实践者齐聚一堂，分享研究成果、交换实践经验，畅叙科技之美，2023北京智源大会近日顺利召开，作为人工智能领域综合性内行盛会，这场闪烁智慧光芒的思想交流，以百场精彩报告研讨，共同见证一场关于智能的惊叹演化。
在AI安全与对齐论坛上，众多专家学者展开交流，进入大模型时代，如何确保越发强大和通用的人工智能系统安全可控，符合人类意图和价值观，是极为重要的一个问题。这一安全问题又被称为人机对齐（AI alignment）问题，它代表了本世纪人类社会面临的最紧迫和最有意义的科学挑战之一。
论坛上「深度学习之父」Geoffrey Hinton、OpenAI创始人Sam Altman和张钹院士等14位国内外嘉宾围绕人机对齐、大模型的可同时，与此次论坛议题高度契合的科学作家布莱恩·克里斯汀(Brian Christian)的最新作品--The Alignment Problem，中文版书名：《人机对齐》也在会上正式发布。该书由湖南科学技术出版社引进出版，安远AI审校。安远AI创始人谢旻希主持了此次新书发布仪式。
《人机对齐》作者Brian Christian应邀线上发言。在发言中，他首先向读者与与会嘉宾发来问候。他为新书《人机对齐》的发布感到荣幸，并希望该书可以为中国人工智能领域的持续研究做出贡献。同时对《人机对齐》的主要内容做了简要介绍：全书共分为三篇，第一篇就当前影响机器学习系统的伦理和安全问题进行了探讨，第二篇名为自主，焦点从监督和自监督学习转移到强化学习，第三篇在监督学习、自监督学习、强化学习的基础上探讨我们如何在现实世界中对齐复杂的AI系统。希望《人机对齐》在国内的发布不仅对研究人员起到帮助，更能有助于我们把自己对于这个领域的热情传递给每一位非专业人士。他最终表达了期望，希望通过本次大会的讨论和中国在AI领域的研究来促进人工智能领域的全球发展。
《人机对齐》
【美】布莱恩·克里斯汀著；唐璐译
出版社：湖南科学技术出版社
现代的机器学习系统已经变得非常强大，可以在各种情境中代替我们观察和听取信息，并为我们作出决策。但是警钟已经敲响。随着机器学习飞速发展，人们的担忧也在与日俱增。当人工智能（AI）的行为与我们的真正目标不符时，可能会引发潜在的风险和道德问题。The researchers refer to it as the alignment problem.。
布莱恩·克里斯汀以生动的笔调，清晰地阐述了AI与我们密不可分的问题，使其畅销作品的阅读者受益匪浅。在书中，我们将认识第一批积极应对对齐问题的学者，了解他们为了避免AI发展的局面失控，付出的卓绝努力和雄心勃勃的计划。克里斯汀不仅精练地描绘了机器学习的发展史，并且亲自深入科研一线同科学家对话，准确呈现了机器学习最前沿的进展。对齐问题的研究成败将对人类未来产生至关重要的影响，读者可以深刻认识到这一点。
对齐问题还是一面镜子，将人类自身的偏见和盲点暴露出来，让我们看清自己从未阐明的假设和经常自相矛盾的目标。这是一部精彩纷呈的跨学科史诗，不仅审视了人类的科技，也审视了人类的文化，时而让人沮丧，时而又柳暗花明。
这本书在国外的出版反响热烈，被微软首席执行官萨蒂亚·纳德拉评为2021年最激励他的五本书之一，被《纽约时报》评为关于AI关键技术和道德问题的best书籍，如作者布莱恩·克里斯汀所言：“希望中国AI领域以及更广泛的中国读者也可以读到这本书，希望对你们而言，这本书是内容丰富、发人深省、鼓舞人心的，不仅对于作为研究人员有帮助，也有助于你们把自己对这个领域的热情传递给生活中的非计算机科学家。”
潇湘晨报记者周诗浩
以上就是2023智源大会AI安全话题备受关注，《人机对齐》新书首发的详细内容，更多请关注Work网其它相关文章！