當地時間7月13日,據美國CNN報道,美國聯邦貿易委員會正在調查OpenAI是否違反消費者保護法,並要求OpenAI提供有關其處理個人數據、向用戶提供不准確信息的可能性以及“對消費者造成損害(包括聲譽損害)的風險”的大量記錄。
英國《金融時報》稱,這是美國監管機構首次正式發起對人工智能聊天機器人帶來的風險的審查。
一份文件顯示,美國聯邦貿易委員會本周向OpenAI發出了一份長達20頁的要求,包括“如何獲取用於訓練大型語言模型的數據”,到描述ChatGPT的“生成有關真實個人的虛假陳述的能力” 等,以及要求OpenAI提供其收到的任何公衆投訴、其涉及的訴訟清單還包括該公司於2023年3月披露的數據泄露細節的證詞,該證詞曾暴露了用戶的聊天記錄和支付數據。
據悉,該文件最早由《華盛頓郵報》曝光,隨後,一位知情人士向CNN證實了該文件的真實性。
在OpenAI推出ChatGPT不到一年後就展开了調查,業內人士認爲,美國聯邦貿易委員會正在對人工智能採取行動速度較快。過去,FTC通常會在一家公司出現重大公开失誤後开始調查,例如在 2018年有報道稱臉書(Facebook)與政治咨詢公司劍橋分析(Cambridge Analytica)共享用戶數據後,該機構开始對臉書的隱私做法進行調查。
美國聯邦貿易委員會主席莉娜·汗(Lina Khan)表示,科技公司應該在技術處於萌芽狀態時受到監管,而不是等到技術成熟時才受到監管。莉娜·汗在當地時間周四在國會出席作證時,曾對AI表示擔憂,稱執法者“需要盡早警惕”AI等變革性工具。
“盡管這些工具很新穎,但它們並不能免除現有規則的約束。”莉娜·汗在五月份《紐約時報》的一篇文章中寫道,“雖然這項技術發展迅速,但我們已經看到了一些風險。”
不過,OpenAI一直坦率地承認其產品的一些局限性。例如,與GPT最新版本GPT-4相關的白皮書解釋說,該模型可能“產生與某些來源相關的無意義或不真實的內容”。OpenAI還披露了類似的信息,即GPT等工具可能導致對少數群體或其他弱勢群體的廣泛歧視。
“ChatGPT之父”、OpenAI聯合創始人兼首席執行官山姆·奧特曼(Sam Altman)也表示,快速發展的人工智能行業需要受到監管。今年5月,他在國會作證呼籲對人工智能立法,並拜訪了數百名立法者,旨在爲該技術制定政策議程。當地時間周四,他在推特上表示,OpenAI技術的安全性“非常重要”。他補充說,“我們有信心遵守法律”並將與該機構合作。
OpenAI已經面臨國際監管壓力。今年3月,意大利數據保護機構禁止了ChatGPT,稱OpenAI非法收集用戶的個人數據,並且沒有適當的年齡驗證系統來防止未成年人接觸非法信息。OpenAI在4月恢復了對該系統的訪問,並表示已按照意大利監管部門的要求進行了更改。
鄭重聲明:本文版權歸原作者所有,轉載文章僅為傳播信息之目的,不構成任何投資建議,如有侵權行為,請第一時間聯絡我們修改或刪除,多謝。
標題:美監管機構首次出手!OpenAI遭FTC正式調查:生成虛假信息帶來危害
地址:https://www.breakthing.com/post/78617.html