Financial Times өзүнүн бир эссесинде жасалма интеллект технологияларынын ылдам өнүгүүсү менен байланышкан тобокелдиктер жөнүндө кооптонуу менен эскертүү берди. Бул материалдын автору - ИИ тармагында таасирдүү фигура болгон Дарио Амодеи, ал заманбап технологияларды түзүүдө активдүү катышууда.
Амодеи адамзат "ж nearly ндүк түшүнүксүз бийликке" жетүү алдында турат, бирок учурдагы социалдык, саясий жана технологиялык структуралардын бул бийликти коопсуз башкарууга даярбы деген суроолорду туудурат.
Ал ИИнин өнүгүү ылдамдыгы анын көзөмөлүн жана коопсуздугун камсыз кылуу боюнча аракеттерден кыйла жогору экенин баса белгилейт.
Эссесинде Амодеи "кубаттуу жасалма интеллект" деп аталган системалардын көзөмөлсүз калганда пайда болушу мүмкүн болгон тобокелдиктерди белгилейт. Ал мындай системалар жакынкы жылдарда эң мыкты илимпоздорду жана саясатчыларды да ашып өтө алат деп болжолдойт.
Мүмкүн болгон кесепеттердин арасында ал жумуш орундарын массалык жоготуу жана биотерроризм коркунучунун күчөшүн белгилейт. Амодеи ИИ жеке адамдарга мурдагыдай эле тар чөйрөдөгү адистерге гана жеткиликтүү болгон билимдерге жана көндүмдөргө жетүү мүмкүнчүлүгүн берет деп эскертет, бул болсо биологиялык куралдардын түзүлүшүн жеңилдетет, ал эми бул куралдар миллиондогон өмүрлөргө же бүт адамзатка коркунуч туудурушу мүмкүн.
«Азыр психикалык жактан тең салмактуу эмес, зордук-зомбулукка жөндөмдүү адам вирусология боюнча адис боло алат, бул мурда мүмкүн эмес эле», - деп белгилейт ал.
Мындан тышкары, ал ИИ көзөмөлдөн чыгып, адамзатты кул кылып же авторитардык режимдерди жана кылмыштуу уюмдарды күчөтүп жиберүү коркунучун да белгилейт. Бул "глобалдык тоталитардык диктатуранын" түзүлүшүнө алып келиши мүмкүн.
Амадеи өзүнүн сөзүнүн аягында өкмөттөрдүн, илим коомчулугунун жана бизнес өкүлдөрүнүн күчтүү ИИ пайда болгон учурда коопсуздукту камсыз кылуу жана жөнгө салуу боюнча натыйжалуу чараларды иштеп чыгууга активдүү аракеттерди жасоого чакырат.
Дарио Амодеи
Дүйнөдөгү жасалма интеллект тармагындагы эң маанилүү өкүлдөрдүн бири.
Anthropic компаниясынын негиздөөчүсү жана башкы директору.
Амадеи билим боюнча физик жана машина үйрөнүү тармагында адис. Anthropic компаниясын түзүүдөн мурун ал OpenAIда жетекчилик кызматтарда иштеп, ири тил моделдерин иштеп чыгууга катышкан.
ИИ өнүгүүсү катуу көзөмөл жана коопсуздук чараларын талап кылат деген идеяны катуу колдогондугу менен белгилүү. ИИ тобокелдиктерин башкаруу боюнча пикир келишпестиктер анын OpenAIдан кетишинин себептеринин бири болду.
Anthropic
Anthropic - 2021-жылы OpenAIдан чыккан адамдар тарабынан негизделген, жасалма интеллект тармагында иш алып барган америкалык компания. Башкы кеңсеси Сан-Францискодо жайгашкан.
Компания коопсуз жана башкарылуучу ИИ системаларын иштеп чыгууга көңүл бурат, анын негизги өнүмү ChatGPT жана башка окшош технологияларга атаандаш болгон Claude тил моделдеринин сериясы.
Anthropicтин өзгөчөлүгү "конституциялык ИИ" концепциясына басым жасоодо: моделдер берилген этикалык принциптерге ылайык иштөөгө үйрөтүлөт, бул зыяндуу жүрүм-турумдун тобокелдиктерин азайтууга жардам берет.
Таасир жана колдоо
Anthropic ИИ тармагындагы алдыңкы оюнчулардын бири болуп эсептелет жана маанилүү инвестицияларды тарткан.
Компаниянын эң ири өнөктөштөрү жана инвесторлору Amazon жана Google.
Ошондуктан Амодеи ИИ менен байланышкан тобокелдиктер боюнча билдирүүлөрү олуттуу көңүл бурат: ал жөн гана сырттан келген сынчы эмес, эң күчтүү ИИ системаларын түзүүдө түздөн-түз катышкан адам.
