在過去四周里，OpenAI聯合創始人Sam Altman已經走過五個大洲的近 20 個國家，與學生、開發人員和國家元首會面，他希望推進人工智能在全球范圍內的合作。
(相關資料圖)
6月10日，在2023北京智源大會-AI安全與對齊論壇上，Sam Altman與智源研究院理事長張宏江進行了視頻問答。
人工智能發展已勢不可擋，而保障安全勢在必行。Sam Altman提出在加大對AI系統對齊性能的研究外，亟需設計出公平的、有代表性和包容性的系統。此外，當被問及未來是否將重新開放GPT的源代碼時，Sam Altman表示，公司目前開源了一部分模型，其他模型則不開源，但隨著時間的推移，他期待在保證安全的前提下，有更多的開源模型出現。
我們離安全的AGI有多遠？
Sam Altman認為，很難預測實現安全的AGI的確切時間，但他表示，在未來十年內，人類很可能擁有非常強大的人工智能，并且應該為此做好準備。
Sam Altman表示，目前業界存在關于模型數量與安全性相關性的不同看法，然而擁有少量模型或大量模型都不能讓我們更安全。
更重要的整體架構的搭建，“是否有一種機制，確保任何柯林斯模型都需要經過足夠的安全測試？是否有一個框架，讓那些創建了完備柯林斯模型的人具備足夠的資源和責任心，確保他們創造的東西是安全可靠的？”
我們離安全的AGI有多遠仍沒有確鑿回答，然而Sam Altman對此報有高度激情。“對我而言，沒有比安全性工作更令人興奮、活力四溢、充實且重要的事情了。我堅信，如果您個人對一項重要的倡議非常認可，您將會有無窮的力量去解決它。”
Sam Altman表示，沒人能阻擋人工智能的發展，而安全性工作作為其中的一部分，即使艱難也是必須進行。
如何推進全球合作？
Sam Altman的環球之旅已經進行到第四周，在此期間，他已經去到五個大洲的近 20 個國家，與學生、開發人員和國家元首會面。他試圖推進全球合作。
Sam Altman認為，進一步完善人工智能安全性需要了解不同國家和不同背景下用戶的偏好，因此需要吸納多元觀念。同時，他表示，鑒于解決先進人工智能系統的困難，需要世界各地的優秀人才共同努力。
Sam Altman認為推進全球合作中一個重要進展是人們開始對如何安全開發先進AI系統的國際標準感到興奮。
“過去6個月里，關于AGI的風險和討論取得了很大的進展，人們似乎致力于制定一個框架，讓AI造福人類。”Sam Altman表示。
在推進全球合作的過程中，Sam Altman主要有三種計劃，一是在訓練廣泛模型并在其部署之前，思考應該進行什么樣的測試；二是就構建反映人們目標、價值觀和實踐的數據庫進行了新的討論，三是利用數據庫來使他們的系統與之對齊，并探討了開展共享AI安全性研究的形式問題
Sam Altman表示，“雖然全球合作總是很困難，但是我認為這既是機會也是威脅，它將世界團結在一起。”
如何通過技術解決安全問題？
張宏江提到，在過去幾年中，許多AI系統都付出了很多努力來優化其對齊性能。但僅通過對齊性的研究也許并不能完全解決AGI的安全性問題。
Sam Altman認為，“對齊”的研究還在不斷演變之中，從傳統意義上講，讓模型按照用戶意圖進行溝通的對齊僅是其中的一部分，還會有其他方面的問題，例如，如何驗證系統正在按照我們的意愿行事，以及將系統與哪些價值觀對齊等，最重要的是全面考慮如何獲得安全的AGI。
“在技術之外，我們必須設計出公平的、有代表性和包容性的系統。我們不僅需要考慮AI模型本身的安全性，還需要考慮整個系統的安全性。因此，我們需要構建安全的分類器和檢測器，以監測符合用戶政策的情況。”Sam Altman表示。
此外，他認為很難預測和預先解決任何技術可能出現的問題。因此，從實際使用中學習并快速部署數據，觀察在一個國家中會發生什么，并給人們提供時間來學習、更新和思考這些模型將如何影響他們的生活，這也非常重要。
被問及是否將重新開放GPT的源代碼，就像在ChatGPT3.0之前一樣時，Sam Altman表示，公司開源了一部分模型，其他模型則不開源，但隨著時間的推移，他期待有更多的開源模型出現。“目前我沒有具體的模型或時間表，但這是我們正在努力的事情。”
據了解，Sam Altman主持了一個開源機構，將采用一種算法來開發模型，并引入新的Python模型和A-15模型。
開源是否會引發安全問題？Sam Altman以A-15模型為例說明，該模型提供了額外的安全控制，能夠阻止某些用戶、某些類型的微調。
“這是一個重要的回歸點。就目前模型的規模而言，我對此并不太擔心，但隨著模型變得越來越大，確保正確性的代價可能會變得昂貴。我認為開源一切可能不是最優的路徑，盡管這確實是正確的路徑。我認為我們只需小心地朝著這些節點前進。”Sam Altman表示。
（文章來源：21世紀經濟報道）
標簽：
科技日報記者?趙衛華6月10日是2023年“文化和自然遺產日”，由中國科
商洛觀察｜節會為媒激活“詩與遠方”，商洛文旅康養如何出彩出圈？“要
6月9日，在“文化和自然遺產日”前夕，陜西歷史博物館與西北大學、西北
速報參數：據中國地震臺網正式測定，6月10日17時12分在臺灣屏東縣發生4
有行業專家分析認為，到2025年，新型儲能的產業規模或突破萬億元大關；
日前，據眾車網行業數據監測顯示，長安3月在中國市場的銷量達到27611輛
美國總統拜登8日在白宮會晤英國首相蘇納克。會后，雙方發表《大西洋宣
1、素人來自于日語，念shiroto，通常指非專業人士、業余愛好者、業余藝
每天在我們身邊都發生著許多新鮮事，當下的實時熱點，最熱話題。我們應
多個社交App，在用戶未進行“實名認證”的情況下，仍可正常使用。業內
今日熱搜：滴滴招聘無車司機可靠嗎（
1、滴滴的合法性還有待確定，跟傳統的士不同，的士已形成行業，滴滴對
有容乃大的意思是什么_有容乃大的解
有容乃大的意思是什么，有容乃大的解釋很多人還不知道，現在讓我們一起
鄞州區民政局婚姻登記處上班時間_鄞
1、鄞州區民政局地址：寧波市鄞州新城區惠風東路225號郵政編碼：315100
今日精選：河池365_hc365
1、按照國家的勞動法，你們是有假放的。2、但是有一些地方還不能放，特
全球時訊：歐陽青反串視頻全集_歐陽
1、支持李玉剛!其實歐陽青給人感覺也很漂亮但是他沒有李的溫柔、嫵媚。
打新套利動輒千萬，“萬人搖”亂象叢
6月的首周，杭州臨安一個案名為“華發薈天府”的樓盤意外出圈，登上同
無人接聽一般多少秒_無人接聽
1、是不是辦理了呼轉之類的業務了，（呼轉在手機上可以直接開通）其實
生態環境好，好經濟來“落腳”-全球
2016年9月，上海決定舉全市之力支持崇明建設“世界級生態島”，多年來
熱文：前海人壽增值服務持續升級 用
隨著保險行業持續發展，保險機構越來越重視健康管理服務。近年來，前海
第34屆中國經濟新聞獎：21世紀經濟報
6月10日，2023中國經濟傳媒大會在浙江紹興舉行。其間，大會宣布第34屆
即時：熬過4周，四大生肖真情難拒，
生肖兔的人具有高度的想象力，財運起大浪，萬事順遂，個性樂觀，為人自
證監會就公開募集證券投資基金投資顧
新華社北京6月9日電(記者劉羽佳)證監會官網9日發布消息，為健全資本市
最新資訊：「戶外喂鳥器」好設計分享
頂端設計 ?最近發現養寵物鳥的年輕人越來越多了，而鳥籠、鳥架、食盒
中國吸引跨國公司的不單是大市場
松花江網，是經國家互聯網信息辦公室批準的國家一類新聞網站，吉林省重
22歲女孩拿快遞失聯已第9天 她是家
6月9日，河南安陽林州市石板巖鎮22歲女孩郭滿星，于6月1日走山路前往鎮
一位付費API工程師如何制造了推特今
大數據文摘出品作者：Caleb推特的“鬧劇”還在繼續。3月6日，當推特用
財聯社創投通：本周一級市場92起融資
《科創板日報》6月10日訊（研究員梁又勻顧瑞雪段依塵王鋒）據財聯社創
最后一艘潛艇電影國語版百度云（最后
來為大家解答以上的問題。最后一艘潛艇電影國語版百度云，最后一艘潛艇
長安大學學子以“三色”模式助力陜西
陜西農村集體經濟發展已經形成了極具地域特色的不同發展路徑，長安大學
童書湃｜探索海洋，這些紙上“紀錄片
關于未知的海洋世界，這本書精選了近200幅原攝大圖揭秘海洋森林，講述
今晚，呼和浩特公交地鐵將延時運營_
一、公交出行提示延時服務，途經呼和浩特體育場的37路、75路、76路、K7
五部門聯合啟動河湖安全保護專項執法
新華社北京6月9日電（記者劉詩平）水利部、最高人民法院、最高人民檢察
北京環球影城客流量上升，網友：景點
暑期臨近，北京環球影城迎來旅游旺季。攜程數據顯示，僅湖南高考考生，
吃美食、看電影、賞舞劇！非遺文化在
非物質文化遺產是中華優秀傳統文化的重要組成部分。
咔嚓咔嚓……超近距離看秦嶺野生大熊
咔嚓咔嚓……超近距離看秦嶺野生大熊貓啃竹筍！近日，在陜西佛坪國家級
