第一定律:机器人不得在目睹人类个体将面临危险时伤害人类个体或袖手旁观;第二定律:机器人必须服从人类给它的命令，除非命令与第一定律相冲突;第三定律:机器人要在不违反第一、第二定律的前提下，尽可能保护自己的存在。有从业者将阿西莫夫的科幻小说《机器人三定律》作为人工智能的起点，世界智能大会也关注了相关问题。
6月24日，第六届世界智能大会“人工智能伦理高峰论坛”在天津举行。论坛以“人工智能的伦理挑战与治理策略”为主题，邀请人工智能领域具有代表性的院士、专家、学者，深入探讨人工智能的伦理挑战、伦理治理与构建安全可靠可控的人工智能，积极探讨人工智能伦理的建设目标、重点任务、实现路径和制度保障，推动人工智能伦理治理的生动实践。
专家指出，人工智能是引领新一轮科技革命和产业变革的基础性、战略性、先导性技术。其面向经济社会的辐射性、渗透性、扩散性、颠覆性特征日益鲜明，正在驱动新的经济社会变革。人工智能造福人类的同时，也给就业、社会伦理、个人隐私等带来了前所未有的风险和冲击。人工智能和大数据伦理备受关注，亟待建立新的治理模式。他提出了四点建议。一是整合多学科力量，开展人工智能伦理治理跨学科研究，聚焦信息推荐、数据隐私、自动驾驶、虚拟现实、元宇宙等热点领域。以促进跨域协作。把握人工智能发展规律，探索研究新的伦理问题，共同解决新的治理问题，实现人工智能技术和产业的健康发展。二是完善伦理治理机制，整合更广泛的社会力量，促进协同共治。鼓励相关国家学会设立人工智能伦理与治理相关分支机构，引导负责任的人工智能研发和应用。推动龙头企业设立内部伦理治理委员会，塑造科技企业文化。三是推进伦理科普教育。及时宣传人工智能前沿成果和发展趋势，普及人工智能伦理相关政策信息、治理规则和治理成果，促进公众全面、客观、准确地了解人工智能前沿技术可能带来的收益和风险。四是推动伦理治理国际交流合作，为全球伦理治理贡献中国智慧和中国方案，分享中国伦理治理最佳实践。引导AI伦理和标准的发展方向，提出解决国际问题的有效对策，推动共识规则和倡议，推动全球AI治理体系向更加公平合理的方向发展。
专家表示，科技伦理是科技创新活动中人与社会、人与自然、人与人之间关系的思想和行为准则。规定了科技工作者及其所在社区应当遵守的价值观、社会责任、行为规范，指出科技向善的根本意义在于“使科技更好地增进人类福祉”。当前，加强科技伦理工作，需要制度规范与自我约束相结合。科技工作者、科研机构和组织应当树立和弘扬伦理意识，将伦理意识内化于心，自我约束。科技人员的科技伦理行为与其科技价值观密切相关。科技人员要以人类共同价值观和社会主义核心价值观为指导，树立内化于心的正确科技价值观和伦理原则，真正做到科技卓越。
专家指出，人工智能在数字技术中起着至关重要的作用，是工业数字化的创新引擎。人工智能安全面临七大挑战:硬件可能被攻击、软件有漏洞、协议可能被篡改、算法可能被欺骗、数据可能被污染、应用可能危及人类利益、社会伦理可能超出现有规范。同时，人工智能也为解决数字安全风险提供了新的技术手段，如AI数据分析、AI智能处理、AI智能防御等。
专家指出，人工智能在算法、数据、基础设施和应用方面存在隐患，需要开发一种可信、安全的人工智能，兼顾人工智能与人类整体的协同、共生、规范和公平，最终实现以人为本、服务于人的目标。为此提出四点建议:一是推动人工智能“勇闯无人区”，走应用导向的道路，解决人工智能发展的瓶颈问题;二是积极开展可信、安全、稳健的模型算法基础理论研究，完善安全评估、验证和监管的标准和体系;第三，针对人工智能社会属性和技术属性相结合的鲜明特点，未雨绸缪，加强人工智能的伦理和法律建设;第四，要加强国际合作和信息技术共享，建立开放创新的发展平台。
论坛还根据人工智能的发展现状、应用领域、进化过程和问题类型，提出了解决人工智能伦理问题的七点思路。一是要完善人工智能伦理和安全的治理体系;二是推动法律法规、标准规范的实施;三是建立多主体对话机制，跟踪技术发展前沿，发现新的安全和伦理问题;四是建立人工智能前沿研究和应用的伦理评价、预警和控制机制;第五，加强所有参与人工智能研究和应用的利益相关者的伦理教育，提高他们的伦理意识;第六，积极培育健康的智能文化和数字人文思想;第七，加强人工智能前沿进展的科学传播和伦理普及，提高公众的认知水平。
此外，专家们还就人工智能面临的挑战、加强人工智能的伦理规范和治理、构建更可靠、更负责任的人工智能等话题进行了深入的讨论和交流，并回答了现场观众的提问。
高峰论坛由中国科协、天津市人民政府主办，世界工程组织联合会前主席、中国新一代人工智能发展战略研究院执行院长龚克做主题演讲。30集团创始人、中国工程院院士周，重庆大学党委副书记、校长，清华大学施瓦茨曼学者院长、清华大学文科资深教授做了专题讲座。来自天津市党政机关、高校、科研院所、高新企业等单位的近50名代表参加了线下活动。