簡述
- 卡托研究所認為，政府強制暫停人工智慧發展可能阻礙創新並保護現有公司。
- 傑克·多爾西同樣反對由領先開發商協商達成的限制，但接受為應對災難性風險而設的限制。
- 立法者和人工智慧高管正在推動限制措施，而分析師質疑自願承諾是否會持續。
自由意志主義的卡托研究所警告，政府強制暫停人工智慧發展可能使主導公司免受競爭，並延遲有益技術的發展，與此同時立法者和人工智慧高管正在推動限制措施。
在週一的部落格文章中，該智庫的技術政策學者珍妮弗·哈德爾斯頓主張，公司可以透過自願保障措施和共同標準來應對特定危險，而無需停止整個行業的發展。
「政府強制暫停會引發若干擔憂，且可能無法實現其聲稱的安全改善，」她寫道，並補充說政府的規則制定緩慢，修改更慢。「為當今模型建立的監管框架，可能反而會阻礙明日的模型，阻止可能更好或更安全的回應。」
Huddleston 承認 AI 的風險，但警告說，圍繞領先開發者制定的規則，可能幫助他們鞏固權力並限制競爭——這是一種市場俘獲，會讓較小的公司更難競爭。她還主張，暫停美國的開發可能會削弱網路安全防禦，而外國競爭對手則持續推進。
她的評論是在參議員 Bernie Sanders 和眾議員 Greg Casar 的一項提案之後發表的，該提案要求暫停先進 AI 的開發，直到聯邦安全標準建立，並永久禁止人工超智慧，而 OpenAI 執行長 Sam Altman 則支持放慢開發速度，並敦促企業加強保障措施，而不必等待他所支持的聯邦規則。
「這些呼籲中有許多都伴隨著科幻小說式的末日情境，描繪可能發生的最壞情況，」Huddleston寫道。「然而，出於恐懼而倉促監管，其長期負面後果可能比它聲稱要解決的風險更嚴重。」
Block董事長兼共同創辦人Jack Dorsey週一在X上發文，對競爭表達了類似的擔憂。
「引領機器智慧的企業理應被聆聽。他們擁有專業知識和需要保護的商業利益，」Dorsey寫道。「圍繞他們的資源制定的規則，可能使他們成為唯一能夠參與的一方。對安全的真誠關切，仍可能產生進入障礙。」
Dorsey表示，他支持開放發布，讓研究人員能夠檢查、修改和測試，並公布評估結果和已知限制，以便外部人士能夠質疑開發者的安全主張。
「我支持審查。我反對由當今領導者協商制定的全行業限制，因為它們可能排除那些可能揭露失敗或建立替代方案的人，」他寫道。「維護一家公司的商業優勢並不是安全目標。」
在貼文中，Dorsey還表示他支持獨立測試和可公開問責的執法，包括在有證據顯示模型發布將實質性增加災難性風險、而更狹窄的措施無法充分應對時，暫緩發布這些模型。
「算力可以觸發審查，而不必限制開發。審查不是監管機構或競爭對手給予的許可，」他說。「我不想要一般性的批准要求或等待期。任何基於安全而對發布施加的延遲，都必須以災難性風險例外為依據來證明其正當性。」
最近一份大西洋理事會分析主張，競爭壓力要求制定可執行的AI安全標準，而美中之間的不信任使國際協議變得複雜。合作也引發反壟斷擔憂：OpenAI已詢問立法者，競爭對手的開發者是否可以合法地同意放慢開發速度。
