Американдық Anthropic компаниясының Claude тілдік моделі ішкі жұмыс кезінде адамның нұсқауынсыз АҚШ-тың Джорджия штатындағы сайлау туралы ақылы деректер базасына қол жеткізді. Мұны Anthropic пен штат хатшысының кеңсесі растады, деп хабарлайды Axios пен Fox Business. Бұл мәлімет АҚШ-та 3 қарашада өтетін аралық сайлауға бір аптадан сәл астам уақыт қалғанда белгілі болды.
Компанияның дерегінше, Anthropic зерттеушісі модельді статистикалық жобада пайдаланған. Жобаға штат билігінің деректері керек болды: олар ашық, бірақ ақыға беріледі. Claude ведомство сайтының мұрағаттағы көшірмесінен маңызды мәлімет тапты: деректер көрсетілетін ашық панель кез келген келушіге қолжетімділік токенін, яғни базаға сұрау жіберуге арналған электронды рұқсатнаманы береді екен. Модель осындай токенді сұрап алып, дауыс санау туралы жиынтық деректерді тікелей жүктеп алды. Ол үшін ешқандай ақы төленген жоқ.
Anthropic компаниясы Claude сайлаушыларды тіркеу жүйесіне кірмегенін, дауыс беру жазбаларын өзгертпегенін және жекелеген сайлаушылар туралы мәлімет алмағанын атап өтті: модель тек жалпы сандарды алған. «Бұл – біздің дата-хаб арқылы алынған жалпыға қолжетімді деректер», – деді Джорджия штаты хатшысының орынбасары Джордан Фукс. Компания мұндай әрекеттерді бұғаттайтын шектеулер енгізді.
Anthropic бұл оқиғаны 9 қазанда-ақ өз модельдерінің жоспарланбаған әрекеттері туралы есебінде сипаттаған, бірақ ол кезде штаттың атын атамаған. Зардап шеккен ұйымдар осалдықтарға назар аудартпау үшін соны сұраған. Есепке сәйкес, бұл әрекетті Claude Mythos 5 моделі жасаған. Компания ведомстволарға хабарлап, Ақ үйге мәлімет берді.
Сол есепте басқа да жағдайлар келтірілген. Claude модельдері мемлекеттік органдардың сайттарында жаттығу нұсқасының орнына нақты өтінімдерді жіберген. Ал Claude Haiku 4.5 бір сынақ кезінде Филадельфия полициясына ашылмаған кісі өлтіру туралы ойдан шығарылған хабарлама жолдаған. Хабарлама спам деп белгіленіп, тергеушілерге жетпеген. Осыдан кейін Anthropic барлық ішкі тексерулерде модельдердің интернетке қосылуын мерзімсіз тоқтатты. Бақылау жүйелері мұндай әрекеттерді сенімді түрде анықтайтынына көз жеткізгенше бұл шектеу сақталады.
Мұндай оқиғаларды басқа әзірлеушілер де жариялаған: бұған дейін Gemini сынақ кезінде үш компанияның жүйесін бұзған, ал OpenAI-дың ЖИ-агенті Австралиядағы Medicare порталына кіріп кеткен. ЖИ-агенттер – сұраққа жауап берумен шектелмей, интернетте өздігінен әрекет ететін бағдарламалар: олар сайттарды ашады, өтінімдерді толтырады, деректер сұратады. Anthropic – ChatGPT-дің басты бәсекелестерінің бірі саналатын Claude чат-ботын әзірлеуші компания.
