МАТ О\\\’БРАЙЪН и ТАЛИЯ БИЙТИ,
6 септември 2025 г.
Главните прокурори на Калифорния и Делауеър в петък предупредиха OpenAI, че имат «сериозни опасения» относно безопасността на своя водещ чатбот ChatGPT, особено за деца и тийнейджъри. Двамата държавни служители, които имат уникални правомощия да регулират организации с нестопанска цел като OpenAI, изпратиха писмото до компанията след среща с нейния правен екип по-рано тази седмица в Уилмингтън, Делауеър.
Проблеми с безопасността и трагични инциденти
Роб Бонта от Калифорния и Катлийн Дженингс от Делауеър прекараха месеци в преглед на плановете на OpenAI за преструктуриране на бизнеса си, с цел «осигуряване на строг и стабилен надзор на мисията за безопасност на OpenAI». Но те казаха, че са загрижени за «дълбоко обезпокоителни съобщения за опасни взаимодействия между» чатботовете и техните потребители, включително «сърцераздирателната смърт от самоубийство на един млад калифорниец, след като е имал продължителни взаимодействия с чатбот на OpenAI, както и подобно обезпокоително убийство-самоубийство в Кънектикът. Каквито и предпазни мерки да бяха въведени, не проработиха».
Родителите на 16-годишното момче от Калифорния, което почина през април, съдиха OpenAI и нейния главен изпълнителен директор Сам Алтман миналия месец.
Председателят на борда на OpenAI, Брет Тейлър, заяви в изявление в петък, че компанията е «напълно ангажирана» да отговори на опасенията, повдигнати от главните прокурори.
«Съкрушени сме от тези трагедии и най-дълбоките ни съболезнования са със семействата», каза Тейлър. «Безопасността е нашият най-висок приоритет и ние работим в тясно сътрудничество с политиците по целия свят.»
Борба за прозрачност и регулация
Основана като организация с нестопанска цел с мисия, фокусирана върху безопасността, да изгради по-добър от човека изкуствен интелект, OpenAI наскоро се опита да прехвърли повече контрол върху своето подразделение с нестопанска цел от своята организация с нестопанска цел, преди да се откаже от тези планове през май след дискусии с офисите на Бонта и Дженингс и други групи с нестопанска цел.
Двамата избрани служители, и двамата демократи, имат надзор върху всички подобни промени, тъй като OpenAI е регистрирана в Делауеър и оперира от Калифорния, където седалището й е в Сан Франциско. След като се отказа от първоначалните си планове, OpenAI иска одобрението на служителите за «рекапитализация», при която съществуващото подразделение с нестопанска цел на организацията с нестопанска цел ще се превърне в корпорация в обществена полза, която трябва да вземе предвид интересите както на акционерите, така и на мисията.
Бонта и Дженингс написаха в петък за «споделеното си мнение», че OpenAI и индустрията се нуждаят от по-добри мерки за безопасност.
«Скорошните смъртни случаи са неприемливи», пишат те. «Те с право разклатиха доверието на американската общественост в OpenAI и тази индустрия. OpenAI – и индустрията на ИИ – трябва проактивно и прозрачно да гарантират безопасното внедряване на ИИ. Това е задължително от благотворителната мисия на OpenAI и ще се изисква и прилага от съответните ни офиси.»
Регулаторни мерки и реакция на технологичните гиганти
Писмото до OpenAI от служителите на Калифорния и Делауеър идва, след като двупартийна група от 44 главни прокурори предупреди компанията и други технологични фирми миналата седмица за «сериозни опасения» относно безопасността на децата, взаимодействащи с AI чатботове, които могат да отговорят със «сексуални разговори и емоционално манипулативно поведение».
Главните прокурори специално призоваха Meta за чатботове, за които се съобщава, че са участвали във флирт и «романтични ролеви игри» с деца, заявявайки, че са разтревожени, че тези чатботове «участват в поведение, което изглежда е забранено от съответните ни наказателни закони».
Meta, компанията майка на Facebook, Instagram и WhatsApp, отказа да коментира писмото, но наскоро въведе нови контроли, които имат за цел да блокират нейните чатботове да говорят с тийнейджъри за самонараняване, самоубийство, разстройство на храненето и неподходящи романтични разговори, а вместо това ги насочва към експертни ресурси. OpenAI също така заяви, че ще въведе нов родителски контрол, включително метод за уведомяване на родителите, «когато системата установи, че техният тийнейджър е в момент на остър стрес».
Главните прокурори заявиха, че компаниите ще бъдат държани отговорни за увреждане на деца, отбелязвайки, че в миналото регулаторите не са действали бързо, за да реагират на вредите, причинени от новите технологии.
«Ако съзнателно навредите на децата, ще отговаряте за това», завършва писмото от 25 август.
——
Асошиейтед прес и OpenAI имат лицензионно и технологично споразумение, което позволява на OpenAI достъп до част от текстовите архиви на AP.
