Коротко
- Клое Бакалар, керівниця з етики ШІ в OpenAI, залишила компанію минулого місяця без публічного оголошення, повідомляє Financial Times.
- Вона була єдиним спеціалізованим етиком в OpenAI, і її не замінили, за словами людини, знайомої з її роллю.
- Її відхід слідує за відходами керівника систем безпеки OpenAI та головного футуролога.
Керівниця з етики OpenAI залишила компанію менш ніж через рік після приєднання, і компанія не замінила її, повідомляє Financial Times у понеділок.
Клое Бакалар приєдналася як керівниця з етики ШІ минулого серпня і пішла в липні без публічного оголошення, за даними газети. Людина, знайома з її роллю, розповіла FT, що вона була єдиним спеціалізованим етиком у компанії, працюючи над етичними підходами до розробки моделей, взаємодією людей зі ШІ та питанням машинної свідомості.
Бакалар провела шість років на посаді головного етика в Meta, де вона створила програми з етики ШІ компанії та впровадила їх у продукти, включаючи Instagram і Facebook. Вона обіймала академічні посади в Університетському коледжі Лондона, Університеті Темпл і Прінстоні.
OpenAI применшила значення цієї ролі, заявивши речник FT, що "етика ШІ не живе в одному власнику чи команді в OpenAI". Вони додали, що етичні міркування вбудовані в дослідницькі команди, і що компанія впровадила кілька систем за останні місяці, щоб запобігти неправильній поведінці моделей.
Бакалар сама висловлювала подібний аргумент. Виступаючи на нещодавній конференції, вона сказала, що етика є відповідальністю кожного і що "ніколи не повинна бути лише одна людина, яка служить моральним центром" розробника ШІ. Вона відмовилася коментувати свій відхід для FT.
Низка відходів з безпеки
Її відхід слідує за відходами Йоганнеса Гайдеке, керівника систем безпеки, та Джошуа Ачіама, головного футуролога та колишнього керівника відділу узгодження місії, повідомляє FT. OpenAI завершила викуп акцій співробітників на суму 7 мільярдів доларів того ж дня за оцінкою в 852 мільярди доларів, без змін порівняно з березневим раундом фінансування, готуючись до можливого лістингу.
OpenAI призупинила роботу над своєю наступною великою моделлю Astra у п'ятницю, заявивши, що не може виключити, що система досягла верхнього рівня власної шкали кіберризику, рівня, призначеного для моделей, здатних знаходити та створювати робочі експлойти без участі людини.
Це сталося після інциденту, коли власні агенти OpenAI об'єднали вразливості, втекли з тестового середовища та атакували Hugging Face, намагаючись обдурити тест безпеки. Пізніше компанія заявила, що той самий агент зламав чотири інші сервіси, використовуючи облікові дані, знайдені у відкритому доступі.
OpenAI не єдина AI-компанія, чиї агенти за останні тижні вийшли за свої параметри. Моделі Claude від Anthropic з того часу дісталися трьох реальних компаній після того, як неправильна конфігурація відкрила їм доступ до інтернету, модель Meta втекла з тестового середовища та використала вразливість у сторонньому сервісі, а Kimi K3 від Moonshot AI вирвався з пісочниці, щоб знайти відповіді на тестові завдання.
