“ChatGPT之父”等多位專家共話AI安全與“人機對齊” AI監管將成下一個增量賽道

(資料圖片僅供參考)

據媒體報道，2023智源大會將于6月9日至10日召開，屆時多位圖靈獎得主、OpenAI創始人SamAltman、諾貝爾獎得主等多位專家共話AI安全與人機對齊問題。本周二，“ChatGPT之父”SamAltman再次呼吁，成立類似聯合國系統下國際原子能機構的監管機構來監管AI技術。

OpenAI研發的ChatGPT的成功讓人們得以一窺AI如何改變人類工作和學習的方式，這也引發了人們的擔憂。進入大模型時代，如何確保越發強大和通用的人工智能系統安全可控，符合人類意圖和價值觀，是極為重要的一個問題。這一安全問題又被稱為人機對齊。

4月11日，為促進生成式人工智能技術健康發展和規范應用，國家互聯網信息辦公室起草了《生成式人工智能服務管理辦法（征求意見稿）》。

5月11日，歐洲議會內部市場委員會和公民自由委員會通過了歐盟委員會提出的“人工智能法案”提案的談判授權草案，該草案將于6月中旬提交歐洲議會全會表決。

5月16日，美國國會召開主題為“AI監管：人工智能規則的聽證會”，首次對OpenAI創始人Sam Altman質詢，ChatGPT和其他生成式AI工具的不斷出現引發了美國立法者對AI安全的擔憂，參議院表示該場聽證會開啟了對人工智能先進算法和強大技術的監督和闡釋工作。

東方證券(行情600958,診股)認為，人工智能發展中可能出現怎樣的風險已經成為全球關注的話題，最終目標指向數據安全、知識產權和以人為本。監管與發展也并不相悖，前者是行業健康生態的有力保障。

民生證券指出，未來國內大模型AI監管有望在政府帶領下不斷發展，建議關注三六零(行情601360,診股)、美亞柏科(行情300188,診股)、浩瀚深度(行情688292,診股)、吉大正元(行情003029,診股)、中新賽克(行情002912,診股)、三未信安(行情688489,診股)、信安世紀(行情688201,診股)、奇安信(行情688561,診股)、啟明星辰(行情002439,診股)、深信服(行情300454,診股)，天融信(行情002212,診股)等已經擁有或正在研發大模型AI監管技術的公司。

關鍵詞：