Улуу Британиянын регулятору Ofcom Илону Маскка таандык X платформасы боюнча териштирүү баштады, ал Grok аттуу ИИ куралы менен түзүлгөн сексуалдык сүрөттөрдүн себебинен, деп билдирет BBC.
Ofcomдун расмий билдирүүсүндө «абдан тынчсыздандырган маалыматтар» айтылган, анда чат-бот адамдардын кийимсиз сүрөттөрүн түзүү жана таратуу үчүн колдонулуп жатканы, ошондой эле «балдардын сексуалдык сүрөттөрү» тууралуу сөз болуп жатат.
Эгер мыйзам бузулгандыгы аныкталса, Ofcom X (буга чейин Twitter деп аталган) платформасына глобалдык кирешенин 10% чейин же 18 миллион фунт стерлинг (жакынча 21 миллион евро) өлчөмүндө айып пул салууга укуктуу, кайсы сумма жогору болсо, ошол сумманы алат.
Эгер X регулятордун талаптарын аткарбаса, Ofcom интернет провайдерлерге платформага кирүүнү блоктоо үчүн сотко кайрылышы мүмкүн.
Өткөн жумада Улуу Британиянын премьер-министри Кир Стармер Grok боюнча кырдаалды Greatest Hits радиостанциясында комментарийлеп, «Бул уят. Бул жаман. Бул кабыл алынгыс. X бул кырдаалды көзөмөлгө алышы керек», — деп билдирди, чара көрүүгө убада берди.
Илим, инновациялар жана технологиялар министри Лиз Кендалл дүйшөмбү күнү Палатада Grok боюнча билдирүү жасашы керек. Анын мурунку орун басары, учурда соода министри Питер Кайл BBC Breakfast программасында Grok туура тестирлөөдөн өтпөгөнүн айтып, бул боюнча нааразычылыгын билдирди.
«Мен аял менен жолугушуп, ИИ анын Освенцим фонуна бикини кийип сүрөтүн түзгөнүн билдим, бул мага жамандык кылат», — деди ал.
BBC бир нече мисалдарды карап чыкты, анда аялдар «киимдерин чечип» алардын макулдугусуз сексуалдык позаларда сүрөттөрү түзүлгөн. Бир аял 100дөн ашык сексуалдык сүрөттөрүнүн түзүлгөндүгүн билдирди.
Bloomberg 7-январда билдиргендей, Grok 5-6-январда саатына 6700 сексуалдык сүрөт түзгөн.
X ээси Илон Маск Grok колдонгондор, мыйзамсыз контент түзгөндөр, аны жарыялаган адамдар менен бирдей кесепеттерге дуушар болорун билдирди. Ошол эле учурда, башка ИИ платформаларынын текшерилбегендиги тууралуу суроого жооп берип, Улуу Британия өкмөтү «цензура үчүн кандайдыр бир шылтоо издеп жатат» деп жазды.
Маск ошондой эле бикини кийген тостердин сүрөтүн жарыялап, Grok «кайсы нерсени болсо да кийиндире алат» деген комментарийлерди кошту, ошондой эле Стармердин аялдар үчүн купальник кийген сүрөттөрүн, GPT жана Gemini чаттары тарабынан түзүлгөн деп айтылып, Стармер эмне үчүн Grok тууралуу ушунчалык тынчсызданып жатканын сурады, эгер башка нейросеттер да ушундай сүрөттөрдү түзө алса. Ал «алар жөн гана сөз эркиндигин чектегиси келет» деп кошумчалады.
Миннеаполис шаарында АКШнын иммиграция кызматкерлери аялды нааразычылык акциялары учурунда атып салгандан кийин, X колдонуучулары Grok аркылуу жертва болгон аялдын эски сүрөтүн «киимдерин чечип», анын атып салынгандан кийинки жаңы сүрөтүн түзүштү. AFP xAI компаниясынан комментарий алууга аракет кылганда, жооп кыска жана автоматтык болду: «Традициялык медиа жалган айтат».
X Safety расмий аккаунтунда, сексуалдык зомбулукка байланышкан мыйзамсыз контент, анын ичинде материалдар, жок кылынат жана мындай контентти таратуучуларга чектөөлөр коюлат. Grok аркылуу мындай сүрөттөрдү түзгөндөр, аларды жарыялаган адамдар менен бирдей кесепеттерге дуушар болушат. Илон Маск бул билдирүүнү бөлүштү.
Бул жумада Ofcom «Grok функциясы боюнча X жана xAI менен шашылыш байланышта болгонун» айтып, алардын жообуна жараша териштирүү башташы мүмкүн экенин эскертти. Жума күнү Ofcom өкүлү регулятор «жооп алганын» жана азыр «шашылыш баалоо жүргүзүп жатканын» билдирди.
Ofcom X мыйзамды бузган-бузбаганын, мыйзамсыз контентти жетиштүү тез жок кылбай, аныктай турганын, ошондой эле Улуу Британиядагы колдонуучулар үчүн бул контентке кирүүнү токтотуу үчүн «талаптар» кабыл алынганын текшерүүнү пландаштырууда. Регулятор мындай контентке «макулдуксуз түзүлгөн интимдик сүрөттөр» жана балдар катышкан сексуалдык материалдар кирерин баса белгилейт.
Ofcom өкүлү териштирүүгө канча убакыт кетерин тактаган жок, бирок ал «жогорку приоритетке» ээ болорун белгиледи.
«Платформалар Улуу Британиядагы адамдарды мыйзамсыз контенттен коргоого милдеттүү», — деп билдиришти Ofcom. — «Эгерде биз компаниялар өз милдеттерин аткарбай жатат деп шектенсек, биз териштирүүнү жүргүзүүдөн тартынбайбыз, айрыкча балдар үчүн коркунуч туудурган учурда».
Бейшемби күнү Grok сүрөттөрдү түзүү жана редакциялоо функциясы «азыркы учурда тек гана төлөм кылган жазылуучулар үчүн жеткиликтүү» деп жарыялады, бирок Улуу Британиянын премьер-министринин расмий өкүлү бул мыйзамсыз сүрөттөрдү түзүү мүмкүнчүлүгүн төлөмдүү кызматка айландыруу гана экенин жана маселени чечпей турганын белгиледи.
«Бул мизогиния жана сексуалдык зомбулук курмандыктарына шылдың кылат», — деп кошумчалашты Стармердин канцеляриясынан.
Еврокомиссиянын өкүлү Томас Ренье: «Бул биздин принципиалдуу позициябызды өзгөртпөйт — төлөмдүү жазылуу же акысыз. Биз мындай сүрөттөрдү көргүбүз келбейт. Бардыгы өтө жөнөкөй», — деди.
«Биз платформалардан алардын түзмөктөрү жана системалары мындай мыйзамсыз контентти түзө албай тургандай болушун талап кылабыз», — деп кошумчалады ал интервьюда.
Еврокомиссия ошондой эле Grok тарабынан өткөн жылы жайында киргизилген Spicy Mode (дословно «Пикантный режим») аттуу төлөмдүү функциядан кийин жашы жете элек адамдардын ачык сүрөттөрүн жарыялоо жана түзүү боюнча териштирүү жүргүзүүдө.
«Бул «пиканттуу» эмес. Бул мыйзамсыз. Бул шок. Бул жаман. Бул Европада орун жок», — деп баса белгиледи Еврокомиссиянын өкүлү.
National Cybersecurity Alliance уюмунун өкүлү Клифф Штайнхауэр Grokтогу сүрөттөрдү түзүү куралдарынын төлөм кылган жазылуучулар үчүн жеткиликтүүлүгү зомбулуктун санын азайтуусу мүмкүн, бирок макулдуксуз сексуалдык контенттин пайда болушуна алып келген коопсуздук маселелерин жоюбай турганын белгиледи.
«Кирүү чектөөлөрү жетиштүү эмес, анткени жаман ниеттүүлөр дагы эле айлануу жолдорун таба алышат. Колдонуучулардын чыныгы коргоосу мындай куралдарды түзүү жана башкаруу учурунда негизделиши керек», — деп билдирди ал AFP үчүн.
Жакында Grok Малайзияда жана Индонезияда блоктолду, ал эми Франция жана Индия да чара көрүү ниетин билдиришти. Бул Grok менен байланышкан биринчи скандал эмес: июль айында чат-бот Адольф Гитлерди мактап, өзүн MechaHitler деп атап, колдонуучулардын суроолоруна антисемиттик комментарийлерди калтырган. xAI ошол учурда мындай билдирүүлөрдү жарыялаганга чейин блоктой турганын билдирген.
