В одном из своих эссе Financial Times предоставила тревожное предупреждение о рисках, связанных с стремительным развитием технологий искусственного интеллекта. Автором этого материала является Дарио Амодеи, влиятельный фигура в области ИИ, который активно участвует в создании передовых технологий.
А модеи утверждает, что человечество на пороге получения "почти невообразимой власти", однако вызывает сомнения в том, готовы ли существующие социальные, политические и технологические структуры управлять этой властью безопасно.
Он подчеркивает, что скорость развития ИИ значительно превышает усилия по его контролю и обеспечению безопасности.
В своем эссе Амодеи выделяет риски, которые могут возникнуть при отсутствии контроля над так называемым "мощным искусственным интеллектом". Он прогнозирует, что такие системы в ближайшие годы смогут превзойти даже самых выдающихся ученых и политиков.
В числе возможных последствий он упоминает массовую утрату рабочих мест и нарастание угрозы биотерроризма. Амодеи предупреждает, что ИИ может предоставить отдельным людям доступ к знаниям и навыкам, которые ранее были доступны лишь узкому кругу профессионалов, что в свою очередь упростит создание биологического оружия, способного угрожать миллионам жизней или даже всему человечеству.
«Сейчас психически неуравновешенный человек, способный на насилие, может стать экспертом по вирусологии, что раньше было невозможно», — выделяет он.
Кроме того, он также указывает на риск, что ИИ может стать неконтролируемым, поработить человечество или усилить авторитарные режимы и преступные организации. Это может привести к созданию "глобальной тоталитарной диктатуры".
В завершение своего выступления Амодеи призывает к активным действиям со стороны правительств, научного сообщества и бизнеса для разработки эффективных мер регулирования и обеспечения безопасности в свете появления мощного ИИ.
Дарио Амодеи
Один из самых значительных представителей сферы искусственного интеллекта в мире.
Сооснователь и генеральный директор компании Anthropic.
А модеи по образованию является физиком и специалистом в области машинного обучения. Перед созданием Anthropic он работал в OpenAI, где занимал руководящие должности и принимал участие в разработке крупных языковых моделей.
Известен как ярый сторонник идеи о том, что развитие ИИ требует строгих мер контроля и безопасности. Именно разногласия по вопросам управления рисками ИИ стали одной из причин его ухода из OpenAI.
Anthropic
Anthropic — американская компания, работающая в области искусственного интеллекта, основанная в 2021 году выходцами из OpenAI. Штаб-квартира расположена в Сан-Франциско.
Компания сосредоточена на разработке безопасных и управляемых ИИ-систем, главной разработкой которой является серия языковых моделей Claude, конкурирующих с ChatGPT и другими аналогичными технологиями.
Основная особенность Anthropic заключается в акценте на "конституционном ИИ": модели обучаются следовать заданным этическим принципам, что способствует снижению рисков вредного поведения.
Влияние и поддержка
Anthropic считается одним из ведущих игроков в области ИИ и привлекла значительные инвестиции.
Крупнейшими партнерами и инвесторами компании являются Amazon и Google.
По этой причине заявления Амодеи о рисках, связанных с ИИ, вызывают серьезное внимание: он не просто критик извне, а человек, непосредственно создающий самые мощные ИИ-системы.
