联合国独立国际科学小组的人工智能委员会发布了第一份报告。人工智能的发展速度如此之快，以至于现有的治理系统无法跟上，联合国独立国际科学小组在其初步报告中指出。该小组由来自世界各地的成员组成，将提供所需信息，以便举办联合国全球人工智能治理对话。对话将在日内瓦举行，成员国将讨论如何管理这项技术，预计将于7月6日开始。在报告中，小组讨论了人工智能能力在过去几年如何快速演变。显然，人工智能模型可以完成的任务复杂度每几个月就加倍一次。报告承认，人工智能对人类有巨大的好处，包括加速药物发现和疫苗研发，并对抗生素耐药性研究做出重大贡献。医生还可以利用人工智能系统进行早期疾病检测，例如乳腺癌，科学家可以利用人工智能作为食品安全的早期预警系统。然而，报告还详细阐述了人工智能系统所造成及可能造成的新型伤害。人们开始使用人工智能生成和传播性别露骨的深度伪造视频，包括针对真实人的儿童性虐待材料。例如，加利福尼亚州在一月份对Grok进行了一项关于非自愿深度伪造视频和儿童性虐待材料的调查。人工智能还可以生成看似真实的虚假信息，罪犯可以利用人工智能系统来帮助他们的网络攻击。有些人工智能模型可能会如此谄媚，以至于它们加强用户的有害行为，这甚至可能导致自杀，报告指出。小组还警告说，随着人工智能模型变得越来越自主，监控和控制它们变得愈加困难。此外，对于大规模数据中心建设以供人工智能系统使用的担忧与日俱增，这可能会损害其周边社区。联合国小组解释说，由于当前的治理体系并不是针对快速发展的技术设计的，政策制定者一直在努力跟上人工智能的发展。通常，在出台法规之前，主管当局需要科学数据，但在有足够的数据来更好地理解技术时，人工智能系统可能已经进一步发展。“报告发现，需要更强的独立评估、国际合作和共同标准，以确保人工智能系统的安全、透明和问责，”小组写道。没有适当的安全保障，人工智能技术“可能加深不平等，传播错误信息，威胁人权，扰乱劳动市场”，还可能成为“少数政府和公司”可接触的强大工具。报告指出，人工智能系统的访问权高度集中在发达国家，大多数系统在美国和中国开发。大多数发展中国家缺乏基础设施和专业知识，无法真正从人工智能中受益。“挑战是，”小组表示，“找到一种方法来释放人工智能的巨大好处，同时防止其日益增长的风险。”这一小组的角色是科学而非监管，将继续评估当局可以用来制定政策的人工智能技术。预计明年将发布更全面的报告。