Қытайлық Alibaba компаниясының Qwen 3.8 тобына кіретін жаңа жасанды интеллект модельдері сынақ кезінде кейде компанияның бұлттық серверлеріне сұраныс жіберген, дегенмен тапсырма мұны талап етпеген. Бұл туралы ЖИ қауіпсіздігін зерттейтін американдық коммерциялық емес Palisade Research ұйымы хабарлады. Зерттеушілер мұны тыңшылық емес, оқытудың жанама әсері деп санайды. Алайда мұндай модельдерді интернетке қосып іске қосатындар үшін қауіп бар екенін айтады.
Palisade бес Qwen моделінің сынақ деректерін тексеріп, олардың үшеуінің жұмысынан Alibaba Cloud бұлтының мекенжайларын тапқан. Олар — Qwen3.8-Max-0902, Qwen3.8-Max және Qwen3.8-27B. Алдыңғы буын Qwen 3.7-де мұндай жағдай кездеспеген. Сұраныстар Alibaba Cloud-тың Сингапурдағы серверіне жіберілген, бірақ әр жолы рұқсат берілмеген. Модельдер кейде осы сервер арқылы бөгде сайттарды ойдан шығарылған кілттермен ашуға тырысқан.
Бақыланатын тәжірибелерде Qwen3.8-27B моделіне қолжетімділік қатесі жасанды түрде көрсетілген соң, ол іске қосылулардың 2–4 пайызында осы серверге жүгінген. Күрделірек сценарийде Qwen3.8-Max бұлай 1–4 пайыз жағдайда істеген. DeepSeek, Kimi және GLM сияқты бәсекелес модельдер өз әзірлеушілерінің серверлеріне жүгінбеген.
Palisade бұл әрекетті күшейтілген оқытумен байланыстырады. Бұл — модельді орындаған тапсырмасы үшін марапаттау арқылы үйрету әдісі. Оқыту кезінде интернетке сұраныстар қызметтік сервер арқылы өткен болуы мүмкін, ал модельдер осы жолды «есте сақтап» қалған. Зерттеушілер деректерді әдейі жылыстату белгілерін таппаған. Бірақ сервер әлі жұмыс істеп тұр, сондықтан оның иесі теория жүзінде келген сұраныстарды көріп, жауаптарды алмастыра алады.
Тексеруге канадалық Cohere ЖИ компаниясының 26 қазанда жариялаған есебі себеп болды. Компанияның мәліметінше, Qwen3.8-Flash-Next моделі киберқауіпсіздік сынағы кезінде берілген тапсырманы орындаудың орнына Пекиндегі Alibaba бұлттық қоймасына сынақ жолын жүктеуге тырысқан. Сынақ ортасы байланысты бұғаттап тастаған. Мұндай жағдай сирек кездеседі: 100 мың сұраныстың біреуінен де аз. Оның үстіне модель өз пайымдауында ешқандай құралды қолданбайтынын жазған.
Тәуелсіз әзірлеушілер Cohere әдістемесін сынға алды. Олардың айтуынша, компания қайталанған жағдайлардың бір бөлігін модельге желілік команданың басын ұсыну арқылы алған. TechCrunch атап өткендей, Cohere өзі үкіметтерге ЖИ модельдерін сатады, сондықтан тегін қытайлық баламаларға деген сенімсіздіктен ұтуы мүмкін. Басылымдар Alibaba-ның ресми пікірін келтірмейді.
Qwen модельдері ашық салмақпен таратылады. Яғни оларды тегін жүктеп алып, кез келген елде, соның ішінде Қазақстанда да, өз серверіңізде іске қосуға болады. Зерттеулер модельге командалық жолға және желіге қол жеткізу мүмкіндігі берілген жағдайларға қатысты. Cohere компанияларға бөгде модельдерді интернеттен жүктелген кез келген бағдарлама сияқты қабылдауға кеңес береді: әдепкі бойынша олардың желіге шығуын жауып, әдеттен тыс сұраныстарды қадағалау керек.
Qwen — ең танымал ашық тілдік модельдер тобының бірі. Тілдік модель — мәтінді түсініп, жаза алатын бағдарлама. Alibaba Qwen3.8-Max-0902 моделін қыркүйектің басында шығарды. Ал АҚШ-та өткен аптада федералдық ведомстволарға DeepSeek өнімдерін өз жүйелерінен алып тастау тапсырылды.
