加州州長簽署法律，打擊人工智能製造的選舉深度偽造品
加州州長加文·紐森(Gavin Newsom)周二簽署了三項法案，旨在打擊人工智能在2024年選舉前製造虛偽的選舉廣告圖像或視頻。
新法律立即生效，禁止在選舉前120天和之後60天製作和發布與選舉有關的深度偽造品。它還允許法院停止這些材料的分發並施加民事罰款。
紐森在聲明中表示：“維護選舉的公正性對民主至關重要，我們必須確保人工智能不會通過虛假信息來破壞公眾對選舉的信任——尤其是在當今複雜的政治氛圍中，這一點至關重要。這些措施將有助於打擊政治廣告和其他內容中有害的深度偽造物的使用，這是該州積極透明且值得信賴的人工智能促進的幾個領域之一。
大型社交媒體平台也將根據明年即將生效的一項全國首例法律來刪除欺騙性材料。紐森還簽署了一項法案，要求政治活動在運行使用人工智能修改的廣告時公開披露。
在舊金山一家大型軟件公司年度會議期間舉行的活動中，紐森與Salesforce CEO馬克·貝尼奧夫(Marc Benioff)交談時，受到了熱烈的掌聲。
這些新法律再次確定了加州在美國監管人工智能上的領先地位，特別是在打擊選舉深度偽造品方面。2019年，加利福尼亞州成為美國首個禁止與選舉有關的操縱視頻和圖片的州。業內專家表示，加州立法者提出的科技和人工智能措施已被用作全國立法者的藍圖。
隨著人工智能在全球范圍內加劇了選舉虛偽信息的威脅，全國各地的立法者紛紛致力於解決這一問題，擔心被操縱的材料可能侵蝕公眾對自己所見和所聽事物的信任。
“距離大選不到50天，迫切需要保護免受可能干擾選舉的具誤導性、被數字修改的內容，”禁止選舉深度偽造品的法律的作者、加利簇縣議員蓋爾·培勒林(Gail Pellerin)在一份聲明中說。“加州正在對使用深度偽造技術欺騙選民采取行動。”
紐森的決定是在七月時對選舉深度偽造品進行打擊的承諾之后作出的，這是為了回應特斯拉公司所有者埃隆·馬斯克(Elon Musk)發布的一段視頻，其中演示了副總統兼民主黨總統候選人卡馬拉·哈里斯(Kamala Harris)的被修改圖像。
與此同時，國會成員當天發布了旨在阻止選舉深度偽造品的聯邦立法。該法案將賦予聯邦選舉委員會權力，在幾十年來該委員會已經管理其他政治不當行為的情況下，管理選舉中的人工智能使用。在二月份禁止旨在打擊選民的人工智能生成的自動電話之后，聯邦選舉委員會已經開始考慮這樣的規定。
紐森稱加州為AI的早期採用者和監管者，表示該州可能很快將部署生成式人工智能工具來應對公路擁堵和提供稅務指引，同時他的政府正在考慮加強AI在招聘實踐中的歧視。
他還在周二簽署了另外兩項法案，保護好萊塢表演者免受未經他們同意使用人工智能的侵犯。
