Пауза в розвитку ШІ вигідна домінуючим компаніям, а не безпеці, попереджає аналітичний центр

Лібертаріанський інститут Cato попереджає, що призупинення розвитку штучного інтелекту, ініційоване урядом, може захистити домінуючі компанії від конкуренції та затримати корисні технології, оскільки законодавці та керівники ШІ-компаній наполягають на обмеженнях.

У блозі в понеділок Дженніфер Хаддлстон, дослідниця технологічної політики в аналітичному центрі, стверджувала, що компанії можуть вирішувати конкретні небезпеки через добровільні запобіжні заходи та спільні стандарти, не зупиняючи розвиток усієї галузі.

«Введена урядом пауза викликала б кілька занепокоєнь і, ймовірно, не змогла б досягти заявлених покращень безпеки», — написала вона, додавши, що урядові правила повільно пишуться і ще повільніше змінюються. «Нормативна база, створена для сьогоднішніх моделей, може активно перешкоджати завтрашнім, не даючи змоги отримати кращі або безпечніші відповіді».

Гаддлстон визнає ризики ШІ, але попереджає, що правила, сформовані навколо провідних розробників, можуть допомогти їм консолідувати владу та обмежити конкуренцію — форма захоплення ринку, яка ускладнить меншим компаніям конкурувати. Вона також стверджує, що пауза в розробці в США може послабити захист кібербезпеки, тоді як іноземні конкуренти продовжуватимуть просуватися вперед.

Її коментар з'явився після пропозиції сенатора Берні Сандерса та конгресмена Грега Касара призупинити розробку передового ШІ до встановлення федеральних стандартів безпеки та назавжди заборонити штучний надінтелект, тоді як генеральний директор OpenAI Сем Альтман підтримав повільнішу розробку і закликав компанії посилити заходи безпеки, не чекаючи на федеральні правила, які він підтримує.

«Багато з цих закликів супроводжуються науково-фантастичними сценаріями кінця світу про найгірше, що могло б статися», — написав Хаддлстон. «Однак поспішне регулювання зі страху могло б мати довгострокові негативні наслідки, ніж ризик, який воно нібито покликане усунути».

Голова та співзасновник Block Джек Дорсі висловив подібні занепокоєння щодо конкуренції в дописі в X у понеділок.

«Компанії, які очолюють машинний інтелект, заслуговують на те, щоб їх почули. Вони мають досвід і комерційні інтереси, які потрібно захищати», — написав Дорсі. «Правила, побудовані навколо їхніх ресурсів, могли б зробити їх єдиними, хто здатен брати участь. Щире занепокоєння щодо безпеки все одно може створити бар'єр для входу».

Дорсі сказав, що він підтримує відкриті релізи, які дослідники можуть перевіряти, змінювати та тестувати, з опублікованими оцінками та відомими обмеженнями, щоб сторонні могли оскаржувати заяви розробників про безпеку.

«Я підтримую ретельну перевірку. Я виступаю проти галузевих обмежень, узгоджених сьогоднішніми лідерами, оскільки вони могли б виключити людей, які могли б виявити недоліки або створити альтернативи», — написав він. «Збереження комерційної переваги компанії не є метою безпеки».

У своєму дописі Дорсі також сказав, що підтримує незалежне тестування та публічно підзвітне правозастосування, включно з утриманням моделей, коли докази показують, що їхній випуск суттєво підвищить катастрофічні ризики, які вужчі заходи не можуть належно усунути.

«Обчислювальні ресурси можуть викликати ретельну перевірку без обмеження розробки. Перевірка — це не дозвіл від регулятора чи конкурента», — сказав він. «Я не хочу загальних вимог щодо схвалення або періодів очікування. Будь-яка накладена затримка публікації з міркувань безпеки має бути виправдана винятком щодо катастрофічного ризику».

Нещодавній аналіз Атлантичної ради стверджує, що конкурентний тиск вимагає обов'язкових стандартів безпеки ШІ, тоді як недовіра між США та Китаєм ускладнює міжнародні угоди. Співпраця також викликає антимонопольні занепокоєння: OpenAI запитала законодавців, чи могли б конкуруючі розробники законно домовитися про уповільнення розробки.