ChatGPT之父出席聽證會，擁抱AI監管互聯網+
導讀
這一次，輪到OpenAI的CEO山姆·阿爾特曼（Sam Altman），這也是他首次出席美國國會聽證會。
這一次，輪到OpenAI的CEO山姆·阿爾特曼（Sam Altman），這也是他首次出席美國國會聽證會。
尖銳的問題，面對面質詢，全程直播，這樣的美國國會聽證會堪比殘酷真人秀，從比爾·蓋茨、扎克伯格，到TikTok的周受資，沒有一個科技大佬可以輕松地“參演”。
這一次，輪到OpenAI的CEO山姆·阿爾特曼（Sam Altman），這也是他首次出席美國國會聽證會。
美東時間5月16日，美國參議院司法機構隱私、技術和法律小組委員會舉行名為“AI監管：人工智能的規則”的聽證會，希望能邁出AI監管的第一步。
與會的證人有三位，除了阿爾特曼以外，還有IBM的信任和隱私副總裁克里斯蒂娜·蒙格瑪麗（Christina Montgomery），以及紐約大學名譽教授加里·馬庫斯（Gary Marcus）。
聽證會一開始，美國國會參議員播放了一段特殊的錄音。錄音中，“他”談論著ChatGPT為代表的新興技術的風險。隨后解釋，該錄音的文本由ChatGPT撰寫，聲音由AI工具合成。
這段演示表明了一種可能：只是用他的聲音討論ChatGPT似乎還好，但如果是談論烏克蘭戰爭等問題，這種以假亂真的錄音足以對一位政治人物造成嚴重影響。
自去年11月底OpenAI推出ChatGPT以來，包括大語言模型AI繪畫在內的AIGC技術引發熱潮。微軟、谷歌等科技頭部企業展開AI軍備賽，新玩家不斷涌現，資金持續注入，搜索、繪畫攝影、游戲等多個領域發生變化。
但問題也如影隨形，ChatGPT們都尚未擺脫的“AI幻覺”使其產生錯誤信息，不良使用下制造的假新聞、換音換臉造假、釣魚郵件等，都成為了AI熱潮中刺耳的噪音。
盡管阿爾特曼對監管的呼吁已經持續一段時間，盡管這是一場鮮有答案的“友好討論”、一場AI監管的前戲。作為這一切的“始作俑者”OpenAI的CEO，阿爾特曼雖然不是聽證會的唯一證人，還是注定面臨巨大的壓力。
A
在三個小時的聽證會中，阿爾特曼拿出了十足的誠意。一改往日的休閑風格，他身著深藍色西裝出席，對監管表達了強烈的歡迎。 “我認為，如果這項技術跑偏，那將產生大問題。我們希望對此直言不諱。”他表示，“我們希望合作，防止這種情況發生。” 具體來說，阿爾特曼提出了三點建議： 1.成立一個新的政府機構，負責大型AI模型的授權，并撤銷不符合政府標準的公司的相關許可證。 2.為AI模型建立一套安全標準，包括對其危險性的評估。 3.需要獨立的專家，對模型在各種指標上的表現進行獨立審計。 在應該制定什么規則應對ChatGPT等工具的問題上，這是阿爾特曼迄今為止最詳細的說法。值得注意的是，阿爾特曼的提議中沒有提到要求人工智能模型提供培訓數據的透明度，正如在座的另一位專家證人馬庫斯所呼吁的那樣。 在其他問題上，阿爾特曼也是正反話都說，既贊美技術，也指出威脅。 如ChatGPT們是否會取代人們的工作，阿爾特曼表示這項技術將自動消除一些工作，但是也會制造出一些新的工作。再如美國大選將近，他對AI操縱人們觀點的可能性表達了擔憂。 此前，阿爾特曼在不斷強調這種工具帶給世人的種種好處之外，也多次表達對這種技術的擔憂。 在今年3月的采訪中，他表示自己很擔心ChatGPT被濫用：“既然它們越來越擅長編寫計算機代碼，那么完全可以用于進攻性網絡攻擊。” 甚至是被“群起而攻之”，阿爾特曼也先點頭再搖頭。 3月底，馬斯克等近千名科技人員簽署公開信，呼吁在未來六個月暫停對GPT模型的訓練，以免該模型對社會和人類造成潛在風險。并建議如果禁令不能迅速實施，政府應該介入。 阿爾特曼在公開信引發關注幾周后表態，稱對信中的部分主旨“真的同意”，但否認了OpenAI在訓練GPT-5的消息，并以此反駁信中的技術細節。 在這場聽證會上，阿爾特曼堪稱“乖學生”的典范，在微笑間贊同、補充、自我批評、提建議。 聽證會結束之后，主持會議的理查德·布魯門薩爾（Richard Blumenthal）表示，阿爾特曼的證詞和其他的那些CEO們相比簡直有“日夜”之別。
“不僅僅是在言辭上，也是在實際行動上，以及他參與和承諾采取具體行動的意愿上。”“一些大型科技公司簽署了法令又違反，這和山姆·阿爾特曼承諾的那種合作相去甚遠。考慮到他的過往記錄，我認為這是相當真誠的。”
B
很難說阿爾特曼對監管的“熱情擁抱”是真情實感，還是一種合作的姿態、“以退為守”的策略，抑或二者兼備。 要說對OpenAI的批評，主要是由同樣是證人的紐約大學教授馬庫斯提出的。他在聽證會剛開始就引用了OpenAI最初的使命宣言，即不受財務壓力的約束，推動AI造福全人類。如今，馬庫斯說，OpenAI得“感謝”其投資者微軟。
“企業不負責任、部署廣泛、缺乏監管以及固有的不可靠性正在形成一場完美風暴。”馬庫斯說。值得一提的是，馬庫斯當初也在那封呼吁給OpenAI按下暫停鍵的千人公開信上簽了名。
盡管如此，總體來說，這次聽證會的氣氛并不緊張，議員們對阿爾特曼的態度也很友好。這與阿爾特曼的努力分不開。
阿爾特曼早已采取行動，走動關系、進行溝通。在3月的采訪中，他已經透露自己與一些政府官員保持著聯系。
本月早些時候，阿爾特曼和谷歌、微軟的CEO一起，與美國副總統卡馬拉·哈里斯（Kamala Harris）見面。而在本次聽證會的前夜，阿爾特曼還私下會見了來自兩黨的大約60名議員。
他與議員們共進晚餐，并向他們介紹和演示ChatGPT。幾位接受CNBC采訪的議員都對阿爾特曼的表現給予了高度的評價。
從AI需要引入監管，到應該成立獨立的機構，阿爾特曼和坐在聽證會另一端的議員們都已經有了共識，而這并非聽證會現場的意外之喜。
一個有意思的細節是，在大多數問題上，IBM的蒙格瑪麗與阿爾特曼的主張大致相同，比如AI需要被監管但不能遏制創新，并呼吁“精準監管”AI的具體用例而非技術本身。
但是在建立新的專門的政府機構的問題上，蒙格瑪麗認為沒必要。而這個聲明當即遭到了一名參議員的指責：“我不明白你怎么能說我們不需要一個機構來處理最具變革性的技術。”
在聽證會上，甚至有參議員詢問阿爾特曼是否有資格監督聯邦AI監管機構，后者拒絕了，說自己“熱愛現在的工作”，但承諾會向議員發送一份合適的候選人名單。
《華盛頓郵報》評論這一插曲為“許多參議員似乎急于相信阿爾特曼的自我監管能力”。
C
本次聽證會的友好氛圍，也來自于其性質本身。這不是一場針對某家企業的群毆，而是一場意見交流會，美國監管方下了新興技術“釀成大錯”之前就采取行動的決心。 當扎克伯格2018年首次坐上國會聽證席時，他的社交媒體平臺Facebook已經推出了14年。彼時Facebook身陷“劍橋丑聞”，公司首席技術官稱有8700萬用戶受影響。 那是兩天10小時的車輪戰，國會議員與扎克伯格處于明顯的對立狀態。
同樣的對立狀態也出現在2019年扎克伯格欲發布Libra幣后的國會聽證會、2020年反壟斷聽證會（集齊了谷歌、Facebook、亞馬遜、蘋果四大科技巨頭），以及前不久TikTok周受資那場充滿政治意味的聽證會等。
再往前追溯，1998年微軟創始人兼時任CEO比爾·蓋茨參加的反壟斷聽證會，更是充滿矛盾和拉扯，甚至差點導致微軟被分拆。
如今美國的立法者們看到了PC、移動互聯網之后又一波科技浪潮，這一次他們想追上AI，以免重蹈覆轍。
在社交媒體時代的行動不及時與不足，成為了美國監管方的一塊心病。整場聽證會，不同的議員反復表達著后悔。
“230條款”在聽證會中也被多次提及。該條款來自1996年美國《通訊規范法》，多年來為科技企業提供了法律保護。其主要有兩方面，一是互聯網公司無需為用戶發布的內容擔責，二是社交媒體即使刪除一些其認為令人反感或不恰當的內容，也不會受到懲罰。
“其結果是互聯網上充斥有毒內容、剝削兒童、為他們制造危險。國會未能在社交媒體上把握時機。現在，我們有機會在威脅和風險成為現實之前，在AI方面做到這一點。”參議員布魯門薩爾表示。
關鍵企業呼吁監管、立法者有監管共識，看起來一切向好。但實際上，美國國會要落實本次聽證會提出的監管建議極具挑戰性。
過去，對科技企業的監管問題屢屢受到不同黨派政治分歧的影響，例如“230條款”是抹去還是更新、怎么更新，至今都沒有定論。
對于阿爾特曼來說，最殘酷的真人秀“首演”已經完美落幕，至于AI監管究竟會去向何方，還有很長的路要走。
美東時間5月16日，美國參議院司法機構隱私、技術和法律小組委員會舉行名為“AI監管：人工智能的規則”的聽證會，希望能邁出AI監管的第一步。
與會的證人有三位，除了阿爾特曼以外，還有IBM的信任和隱私副總裁克里斯蒂娜·蒙格瑪麗（Christina Montgomery），以及紐約大學名譽教授加里·馬庫斯（Gary Marcus）。
聽證會一開始，美國國會參議員播放了一段特殊的錄音。錄音中，“他”談論著ChatGPT為代表的新興技術的風險。隨后解釋，該錄音的文本由ChatGPT撰寫，聲音由AI工具合成。
這段演示表明了一種可能：只是用他的聲音討論ChatGPT似乎還好，但如果是談論烏克蘭戰爭等問題，這種以假亂真的錄音足以對一位政治人物造成嚴重影響。
自去年11月底OpenAI推出ChatGPT以來，包括大語言模型AI繪畫在內的AIGC技術引發熱潮。微軟、谷歌等科技頭部企業展開AI軍備賽，新玩家不斷涌現，資金持續注入，搜索、繪畫攝影、游戲等多個領域發生變化。
但問題也如影隨形，ChatGPT們都尚未擺脫的“AI幻覺”使其產生錯誤信息，不良使用下制造的假新聞、換音換臉造假、釣魚郵件等，都成為了AI熱潮中刺耳的噪音。
盡管阿爾特曼對監管的呼吁已經持續一段時間，盡管這是一場鮮有答案的“友好討論”、一場AI監管的前戲。作為這一切的“始作俑者”OpenAI的CEO，阿爾特曼雖然不是聽證會的唯一證人，還是注定面臨巨大的壓力。
A
在三個小時的聽證會中，阿爾特曼拿出了十足的誠意。一改往日的休閑風格，他身著深藍色西裝出席，對監管表達了強烈的歡迎。 “我認為，如果這項技術跑偏，那將產生大問題。我們希望對此直言不諱。”他表示，“我們希望合作，防止這種情況發生。” 具體來說，阿爾特曼提出了三點建議： 1.成立一個新的政府機構，負責大型AI模型的授權，并撤銷不符合政府標準的公司的相關許可證。 2.為AI模型建立一套安全標準，包括對其危險性的評估。 3.需要獨立的專家，對模型在各種指標上的表現進行獨立審計。 在應該制定什么規則應對ChatGPT等工具的問題上，這是阿爾特曼迄今為止最詳細的說法。值得注意的是，阿爾特曼的提議中沒有提到要求人工智能模型提供培訓數據的透明度，正如在座的另一位專家證人馬庫斯所呼吁的那樣。 在其他問題上，阿爾特曼也是正反話都說，既贊美技術，也指出威脅。 如ChatGPT們是否會取代人們的工作，阿爾特曼表示這項技術將自動消除一些工作，但是也會制造出一些新的工作。再如美國大選將近，他對AI操縱人們觀點的可能性表達了擔憂。 此前，阿爾特曼在不斷強調這種工具帶給世人的種種好處之外，也多次表達對這種技術的擔憂。 在今年3月的采訪中，他表示自己很擔心ChatGPT被濫用：“既然它們越來越擅長編寫計算機代碼，那么完全可以用于進攻性網絡攻擊。” 甚至是被“群起而攻之”，阿爾特曼也先點頭再搖頭。 3月底，馬斯克等近千名科技人員簽署公開信，呼吁在未來六個月暫停對GPT模型的訓練，以免該模型對社會和人類造成潛在風險。并建議如果禁令不能迅速實施，政府應該介入。 阿爾特曼在公開信引發關注幾周后表態，稱對信中的部分主旨“真的同意”，但否認了OpenAI在訓練GPT-5的消息，并以此反駁信中的技術細節。 在這場聽證會上，阿爾特曼堪稱“乖學生”的典范，在微笑間贊同、補充、自我批評、提建議。 聽證會結束之后，主持會議的理查德·布魯門薩爾（Richard Blumenthal）表示，阿爾特曼的證詞和其他的那些CEO們相比簡直有“日夜”之別。
“不僅僅是在言辭上，也是在實際行動上，以及他參與和承諾采取具體行動的意愿上。”“一些大型科技公司簽署了法令又違反，這和山姆·阿爾特曼承諾的那種合作相去甚遠。考慮到他的過往記錄，我認為這是相當真誠的。”
B
很難說阿爾特曼對監管的“熱情擁抱”是真情實感，還是一種合作的姿態、“以退為守”的策略，抑或二者兼備。 要說對OpenAI的批評，主要是由同樣是證人的紐約大學教授馬庫斯提出的。他在聽證會剛開始就引用了OpenAI最初的使命宣言，即不受財務壓力的約束，推動AI造福全人類。如今，馬庫斯說，OpenAI得“感謝”其投資者微軟。
“企業不負責任、部署廣泛、缺乏監管以及固有的不可靠性正在形成一場完美風暴。”馬庫斯說。值得一提的是，馬庫斯當初也在那封呼吁給OpenAI按下暫停鍵的千人公開信上簽了名。
盡管如此，總體來說，這次聽證會的氣氛并不緊張，議員們對阿爾特曼的態度也很友好。這與阿爾特曼的努力分不開。
阿爾特曼早已采取行動，走動關系、進行溝通。在3月的采訪中，他已經透露自己與一些政府官員保持著聯系。
本月早些時候，阿爾特曼和谷歌、微軟的CEO一起，與美國副總統卡馬拉·哈里斯（Kamala Harris）見面。而在本次聽證會的前夜，阿爾特曼還私下會見了來自兩黨的大約60名議員。
他與議員們共進晚餐，并向他們介紹和演示ChatGPT。幾位接受CNBC采訪的議員都對阿爾特曼的表現給予了高度的評價。
從AI需要引入監管，到應該成立獨立的機構，阿爾特曼和坐在聽證會另一端的議員們都已經有了共識，而這并非聽證會現場的意外之喜。
一個有意思的細節是，在大多數問題上，IBM的蒙格瑪麗與阿爾特曼的主張大致相同，比如AI需要被監管但不能遏制創新，并呼吁“精準監管”AI的具體用例而非技術本身。
但是在建立新的專門的政府機構的問題上，蒙格瑪麗認為沒必要。而這個聲明當即遭到了一名參議員的指責：“我不明白你怎么能說我們不需要一個機構來處理最具變革性的技術。”
在聽證會上，甚至有參議員詢問阿爾特曼是否有資格監督聯邦AI監管機構，后者拒絕了，說自己“熱愛現在的工作”，但承諾會向議員發送一份合適的候選人名單。
《華盛頓郵報》評論這一插曲為“許多參議員似乎急于相信阿爾特曼的自我監管能力”。
C
本次聽證會的友好氛圍，也來自于其性質本身。這不是一場針對某家企業的群毆，而是一場意見交流會，美國監管方下了新興技術“釀成大錯”之前就采取行動的決心。 當扎克伯格2018年首次坐上國會聽證席時，他的社交媒體平臺Facebook已經推出了14年。彼時Facebook身陷“劍橋丑聞”，公司首席技術官稱有8700萬用戶受影響。 那是兩天10小時的車輪戰，國會議員與扎克伯格處于明顯的對立狀態。
同樣的對立狀態也出現在2019年扎克伯格欲發布Libra幣后的國會聽證會、2020年反壟斷聽證會（集齊了谷歌、Facebook、亞馬遜、蘋果四大科技巨頭），以及前不久TikTok周受資那場充滿政治意味的聽證會等。
再往前追溯，1998年微軟創始人兼時任CEO比爾·蓋茨參加的反壟斷聽證會，更是充滿矛盾和拉扯，甚至差點導致微軟被分拆。
如今美國的立法者們看到了PC、移動互聯網之后又一波科技浪潮，這一次他們想追上AI，以免重蹈覆轍。
在社交媒體時代的行動不及時與不足，成為了美國監管方的一塊心病。整場聽證會，不同的議員反復表達著后悔。
“230條款”在聽證會中也被多次提及。該條款來自1996年美國《通訊規范法》，多年來為科技企業提供了法律保護。其主要有兩方面，一是互聯網公司無需為用戶發布的內容擔責，二是社交媒體即使刪除一些其認為令人反感或不恰當的內容，也不會受到懲罰。
“其結果是互聯網上充斥有毒內容、剝削兒童、為他們制造危險。國會未能在社交媒體上把握時機。現在，我們有機會在威脅和風險成為現實之前，在AI方面做到這一點。”參議員布魯門薩爾表示。
關鍵企業呼吁監管、立法者有監管共識，看起來一切向好。但實際上，美國國會要落實本次聽證會提出的監管建議極具挑戰性。
過去，對科技企業的監管問題屢屢受到不同黨派政治分歧的影響，例如“230條款”是抹去還是更新、怎么更新，至今都沒有定論。
對于阿爾特曼來說，最殘酷的真人秀“首演”已經完美落幕，至于AI監管究竟會去向何方，還有很長的路要走。
1.TMT觀察網遵循行業規范，任何轉載的稿件都會明確標注作者和來源；
2.TMT觀察網的原創文章，請轉載時務必注明文章作者和"來源：TMT觀察網"，不尊重原創的行為TMT觀察網或將追究責任；
3.作者投稿可能會經TMT觀察網編輯修改或補充。
