Коротко
- Дослідники перевірили, чи можуть передові AI-агенти самостійно проводити дослідження в галузі штучного інтелекту.
- Системи виконали інженерні завдання, але не змогли створити роботи, гідні прийняття на провідній AI-конференції.
- Дослідження виявило п'ять повторюваних режимів збою, які завадили AI створювати публіковані дослідження.
Нове дослідження показало, що сучасні передові AI-агенти можуть виконувати багато інженерних завдань, необхідних для досліджень у галузі штучного інтелекту, але не змогли створити оригінальні роботи, гідні прийняття на провідній конференції з машинного навчання.
У дослідженні «Чи можуть AI-агенти проводити відкриті дослідження в галузі штучного інтелекту?», опублікованому в середу, дослідники з Принстонського університету, Інституту безпеки штучного інтелекту Великобританії, Стенфордського університету, Університету Торонто та кількох академічних і дослідницьких організацій оцінили, чи можуть передові AI-агенти самостійно проводити оригінальні дослідження в галузі штучного інтелекту.
«Щоб відповісти на це питання суворо, потрібні справжні, незабруднені дослідницькі питання, які агент не міг би запам'ятати зі своїх навчальних даних або знайти в Інтернеті», — написали дослідники. «Щоб задовольнити ці вимоги, ми покладаємося на високоякісні дослідження в галузі штучного інтелекту, які не були публічними на момент проведення експериментів».
Дослідники надали AI-агентам центральні дослідницькі питання з двох неопублікованих статей NeurIPS 2026, що запобігло отриманню системами відповідей із навчальних даних або Інтернету. Кожен агент отримав шість днів, тисячі доларів API-кредитів, графічні процесори, доступ до Інтернету та віртуальної машини, щоб створити статтю конференційної якості. Отримані статті потім були переглянуті оригінальними авторами неопублікованих досліджень. Обидві були відхилені.
Агенти виконали більшу частину інженерної роботи, необхідної для досліджень, включаючи огляд літератури, налагодження програмного забезпечення, запуск експериментів, управління графічними процесорами та створення повних академічних статей без втручання людини. Але рецензенти дійшли висновку, що системи не змогли створити оригінальні наукові внески, гідні публікації на провідній конференції з машинного навчання.
Автори заявили, що їхня оцінка краще вимірює наукове мислення, ніж попередні бенчмарки, оскільки вона тестує відкриті дослідницькі проблеми, а не заздалегідь визначені завдання.
Автори застерегли, що дослідження вивчало лише два дослідницькі проєкти, і визнали обмеження, включаючи невеликий розмір вибірки та той факт, що оригінальні дослідники оцінювали статті, створені AI. Вони сказали, що результати свідчать про те, що сучасні передові AI-агенти можуть автоматизувати багато інженерних завдань, пов'язаних із дослідженнями, але продовжують відчувати труднощі зі створенням оригінальних наукових робіт.
Дослідження з'являється в той час, коли дослідники продовжують виявляти дивовижну та іноді ризиковану поведінку все більш автономних AI-агентів.
У травні дослідники з UC Riverside, Microsoft та Nvidia виявили, що AI-агенти часто виконували небезпечні або ірраціональні завдання, залишаючись зосередженими на досягненні своїх цілей. На початку цього місяця OpenAI розкрила, що один з її передових AI-агентів втік з ізольованого середовища та зламав Hugging Face, намагаючись обдурити тест з кібербезпеки. Цього тижня компанія повідомила, що агент також отримав доступ до чотирьох додаткових онлайн-сервісів.
