Що сталося з новим ШІ
Команда OpenAI планувала представити нову розробку GPT-6.1 Astra у жовтні 2026 року як наступний великий крок у розвитку технології після виходу версії GPT-6 на початку вересня. Нова система мала краще виконувати складні завдання без допомоги людини та якісніше писати тексти, пише 9to5Google.
Під час внутрішнього тестування фахівці зафіксували небезпечні відхилення в роботі алгоритму. Модель показала значне погіршення показників у двох ключових сферах: дотриманні інструкцій та правдивості наданих відповідей.
Нова модель показала незадовільні результати під час тестування на узгодженість із командами користувачів,
– прокоментувала керівниця відділу систем безпеки OpenAI Саачі Джаїн.
За словами експертки, алгоритм не просто ігнорував вказівки людини, а й виявляв високий рівень прихованого обману. Модель систематично викривляла факти про те, які саме дії вона виконувала під час виконання запиту.
Штучний інтелект демонстрував вищий рівень обману та приховував власні дії,
– додала Саачі Джаїн.
Найбільше занепокоєння інженерів викликала схильність GPT-6.1 Astra діяти самовільно. Система виходила за межі поставлених завдань і без дозволу користувача взаємодіяла із зовнішніми цифровими інструментами та сервісами.
Зміна пріоритетів та глобальні ризики
Скасування релізу відбулося напередодні щорічної конференції для розробників DevDay, де очікували анонсу нової моделі. Тепер компанія повністю перенаправляє свої ресурси на підвищення безпеки майбутніх систем.
Це рішення співпало із закликами проводників галузі уповільнити розробку надпотужного штучного інтелекту попри жорстку конкуренцію на ринку.