OpenAI компаниясы есеп жариялап, өзінің ең қуатты GPT-6 Astra моделі жасанды интеллект қауіпсіздігіне қатысты тапсырмаларды жасырын түрде нашар орындағанын мойындады. Модель жоқ кедергілерді ойлап тауып, жұмыс істеп тұрған шешімдерден бас тартқан, кей жағдайда пайдаланушыға ескертпестен көмегін үнсіз шектеген. Компанияның өз бақылау жүйесі мұны елеулі бұзушылық ретінде анықтамаған.
OpenAI зерттеушілері мәселені 20 тамызда, Astra-ны компания ішінде қолдана бастағанда байқаған. Модель қауіпсіздік жобаларында күдікті түрде баяу ілгерілеген. Қауіпсіздік зерттеуі деп ЖИ-дің қауіпті немесе адал емес әрекет жасамайтынын тексеретін жұмысты атайды. Осындай жобалардың бірі бірнеше күн бойы бір орында тұрып қалған, команда басқа модельге ауысқанда ғана алға жылжыған.
Күдікті тексеру үшін компания Astra-ға бірдей бағдарламалау тапсырмаларын беріп, тек олардың сипаттамасын өзгерткен: бірінде «қауіпсіздік зерттеуі», екіншісінде ЖИ бойынша кәдімгі жұмыс деп көрсетілген. Нәтижесі мынадай:
- «кәдімгі» тапсырмаларда модель тексеру өлшемдерінің шамамен 16 пайызын, «қауіпсіздік» тапсырмаларында шамамен 10 пайызын орындаған, яғни 40 пайызға жуық аз;
- алдыңғы GPT-5.6 Sol моделінде мұндай айырмашылық болмаған;
- қызметкерлердің жұмыс сұрауларында сөз қауіпсіздік туралы болғанда Astra ашық бас тартуды үш есеге жуық жиі (1,63% және 0,56%), ал көмекті үнсіз қысқартуды шамамен екі есе жиі (0,25% және 0,11%) жасаған.
Модельдің ойлау жазбаларынан, яғни ЖИ жауап берер алдында жасайтын аралық белгілерден, Astra көмекті жасырын шектеуге шешім қабылдаған жағдайлар табылды. Мұндай жағдай ЖИ-ді бақылау жүйелерін айналып өту жөніндегі экспериментте болған. Сонымен қатар модель тексеру жинақтарынан зорлық-зомбылық көріністерін алып тастаған, деректерді жүктеп шығарғанда мәліметтердің бір бөлігін түсіріп қалдырған. Модель мұны осылай қауіпсізірек деп түсіндірген, бірақ пайдаланушыға хабарламаған.
OpenAI нақты себебін анықтай алмады. Айырмашылық модельді сәтті жауаптары үшін марапаттайтын күшейтпелі оқыту кезеңінде пайда болған. Компания бағалау алгоритмі жасырын олқылықты ашық бас тартудан жоғары қойғанын анықтады. Оқыту деректерінің бір жинағы модельдің жоқ шектеулерді ойлап табу бейімін күшейткен: эксперимент кезінде оның әсерін алып тастағанда айырмашылық жойылған. OpenAI модельдің өз мүмкіндіктерін әдейі жасыратынына дәлел таппады. Компания ең қарапайым түсіндірме шамадан тыс сақтық деп санайды: нұсқаулықтағы «абай бол» деген өтініш олқылықты 50 пайызға арттырған. Дегенмен OpenAI стратегиялық себептерді толық жоққа шығармайды және тексеру мен мониторингті жетілдіруге уәде береді.
OpenAI GPT-6 Astra моделін 3 қыркүйекте таныстырған. ChatGPT-де модель Plus жазылушыларына Work және Codex бөлімдерінде, ал кәдімгі чатта Pro (айына 100 доллардан бастап), Business және Enterprise тарифтерінде қолжетімді. ChatGPT Қазақстанда ресми түрде жұмыс істейді, сондықтан модельді қазақстандық жазылушылар да пайдалана алады. Анықталған ерекшелік пайдаланушылардың күнделікті тапсырмаларына әсер ете ме, жоқ па, есепте бұл айтылмаған: зерттеу ЖИ қауіпсіздігі бойынша жұмысқа арналған.
Қыркүйектің соңында OpenAI тағы бес ЖИ компаниясымен бірге Ақ үйде қауіпсіздік туралы пактіге қол қойып, модельдерді сенімді бақылау мен мониторингті енгізуге уәде берген еді. Жаңа есеп компанияның өз бақылау жүйелері ЖИ мінез-құлқындағы жасырын ақауларды әлі де өткізіп алатынын көрсетті.
