华盛顿(CNN)——美国联邦贸易委员会正在调查OpenAI可能违反消费者保护法的行为，要求ChatGPT的制造商提供大量关于其处理个人数据、向用户提供不准确信息的可能性以及“对消费者造成损害的风险，包括声誉损害”的记录。
这项调查可能会使OpenAI与政策制定者的关系复杂化，其中许多人对该公司的技术及其首席执行官萨姆·奥特曼(Sam Altman)赞叹不已。它还可能使人们进一步关注OpenAI在一场关于生成式人工智能可能对就业、国家安全和民主构成威胁的广泛辩论中所扮演的角色。
在本周长达20页的调查要求中，美国联邦贸易委员会要求OpenAI回应数十项要求，其中包括如何获取用于训练其大型语言模型的数据，以及如何描述ChatGPT“生成虚假、误导或贬低真实个人的陈述的能力”。
《华盛顿邮报》(The Washington Post)周四首先报道了这份文件，一位知情人士向CNN证实了其真实性。OpenAI没有立即回应置评请求。FTC拒绝置评。
信息请求被认为是一种行政传票，它还要求OpenAI就其收到的任何公众投诉、涉及的诉讼清单以及2020年数据泄露的细节提供证词，该公司称该数据泄露暂时暴露了用户的聊天历史和支付数据。
它要求描述OpenAI如何测试、调整和操纵其算法，特别是以不同的语言产生不同的响应或应对风险。该要求还要求该公司解释其为解决“幻觉”案例所采取的任何措施。“幻觉”是一个行业术语，描述的是人工智能产生虚假信息的结果。
美国联邦贸易委员会的调查是美国政府对人工智能进行直接监管的最明显例子。预计今年秋季国会将推动起草影响该行业的新立法，在此之前，国会议员们正努力跟上这个迅速发展的行业的步伐。美国的努力在很大程度上落后于其他全球政策制定者。例如，欧盟立法者正在努力完成具有里程碑意义的立法，禁止将人工智能用于预测性警务，并对高风险的使用场景施加限制。
在FTC展开调查之前，该机构曾多次警告企业不要对人工智能提出过热的主张，也不要以歧视性的方式滥用这项技术。
它在博客文章和公开言论中表示，使用人工智能的公司将对与该技术相关的任何不公平和欺诈行为负责。作为美国最高的消费者保护监管机构，联邦贸易委员会有权起诉侵犯隐私、虚假营销和其他危害。
联邦贸易委员会主席莉娜·汗认为，该机构现有的国会授权为联邦贸易委员会起诉滥用人工智能提供了充分的权力。例如，汗在4月份告诉立法者，虽然人工智能可以帮助“加剧”欺诈和诈骗，但联邦贸易委员会已经有了打击骗子的悠久历史。
“尽管这些工具很新颖，但它们不能免于现有规则的约束，ftc将大力执行我们负责管理的法律，即使是在这个新市场，”汗在接下来的一个月的《纽约时报》(new York Times)专栏文章中写道。
OpenAI的一些批评者此前曾向美国联邦贸易委员会提起诉讼，声称算法偏见、隐私问题和ChatGPT的幻觉倾向可能违反了美国消费者保护法。
OpenAI已经公开了其产品的一些局限性。例如，与GPT最新版本GPT-4相关的白皮书解释说，该模型可能“产生与某些来源相关的无意义或不真实的内容”。OpenAI还披露了类似的信息，即GPT等工具可能会导致对少数群体或其他弱势群体的广泛歧视。
The-CNN-Wire?&?2023有线新闻网，Inc.，华纳兄弟发现公司。版权所有。