您的位置：首页>资讯 >

担心传播不良信息，美政府研究是否监管 ChatGPT 等 AI 技术

来源：金羊网时间：2023-04-11 22:26:12

美国政府已开始研究是否需要监管 ChatGPT。

当地时间 4 月 11 日，据《华尔街日报》报道，由于人们越发担心 ChatGPT 等人工智能技术可能会被用于歧视或传播有害信息，拜登政府已经开始研究是否需要对这类工具进行限制。

(资料图片)

美国商务部 4 月 11 日就相关的问责措施正式公开征求意见，包括具有潜在风险的新型人工智能模型在发布前是否应该进行核准认证程序。这被视作是迈出对人工智能领域实行潜在监管的第一步。

ChatGPT 等人工智能工具可以快速生成类似人类使用的文字、图像与视频等。人工智能实验室 OpenAI 于 2022 年 11 月推出的聊天机器人 ChatGPT，在短短两个月内活跃用户达到 1 亿，成为史上增长最快的消费者应用程序。

" 这些工具即便在起步阶段就能做到这些，这真令人惊讶。" 美国商务部下属机构国家电信与信息管理局局长艾伦 · 戴维森（Alan Davidson）说，" 我们知道，我们需要设置一些界限，来确保这些技术被负责任地使用。"

据戴维森介绍，征求意见的期限为 60 天，这些意见有助于向美国的政策制定者提供有关如何处理人工智能的建议。戴维森补充称，其所在的机构负责就技术政策向美国总统提供建议，而非撰写或执行法规。

目前，科技行业和政府官员已对人工智能技术潜在的危害表示担忧，包括使用该技术犯罪或是传播虚假信息。

美国科罗拉多州民主党参议员 Michael Bennet 特别关心儿童的安全。上个月，Bennet 给几家人工智能公司写信，询问有关公共实验的情况。在那些实验中，聊天机器人向装成年轻人的用户提供了令人不安的建议。

" 人工智能到底是能为我们带来极大的好处，还是造成灾难性的后果，人们正针对这个话题进行激烈讨论。" 康涅狄格州民主党参议员 Richard Blumenthal 在接受采访时表示，" 这对国会来说是终极挑战，一个高度复杂、极具技术性的挑战，且事关重大，极为紧迫。"

拜登上周在白宫与一个科学家顾问委员会讨论了这一话题。当有记者问及人工智能技术是否有危险时，拜登表示：" 还有待观察，有可能（有危险）。"

据介绍，顾问委员会的成员包括来自微软和谷歌的代表。这两大科技巨头和其他发布人工智能系统的公司表示，他们正不断更新安全界限，比方说通过编程让聊天机器人不回答某些问题。

值得一提的是，当地时间 4 月 10 日，据美国数字新闻网站 Axios 报道，知情人士透露，著名科技投资人 Ron Conway 的投资公司 SV Angel 将于 4 月 12 日召集旧金人工智能山 AI 公司的高层讨论人工智能政策问题，OpenAI、微软、谷歌、苹果、英伟达、Stability AI、Hugging Face、Anthropic 等公司的高管与政策代表将出席该会议，讨论如何负责任地开发 AI、分享最好的实践案例，并商讨相关的公共政策框架和标准。

就在 3 月 29 日，埃隆 · 马斯克（Elon Musk）等千名业界和学界人士联署公开信，呼吁所有人工智能实验室立即暂停训练比 GPT-4 更强大的 AI 系统，暂停至少 6 个月，以便制定和实施安全协议。

据悉，美国金融部门的监管机构已经对贷款机构如何利用人工智能来承销贷款进行调查，希望防止对少数群体的歧视。此外，美国司法部反垄断部门表示，该部门正在监控人工智能领域的竞争。联邦贸易委员会则警告这些科技公司，它们可能会因对人工智能产品做出虚假的或未经证实的声明而面临法律后果。

来源 | 澎湃新闻

责编 | 李各力

关键词：