Президент Cisco: ИИ-агентам нужны проверки благонадёжности, как сотрудникам

Арестова Татьяна Эксклюзив
VK X OK WhatsApp Telegram
Президент Cisco: ИИ-агентам нужны проверки благонадёжности, как сотрудникам

На недавно прошедшем саммите по ИИ в Амстердаме, Патель сообщил, что Cisco уже разработала продукт, код которого целиком генерирован ИИ. «К концу 2026 года мы планируем иметь как минимум полдюжины продуктов, разработанных исключительно с помощью ИИ», — отметил он.

Отвечая на вопрос о будущем программистов, Патель посоветовал не бояться конкуренции со стороны ИИ: «Вместо этого, опасайтесь тех, кто умеет использовать ИИ лучше вас. В Cisco не будет программистов, которые не освоят работу с ИИ как основное направление», — сказал он.

По словам президента, переход от традиционной гибкой разработки к модели, управляемой спецификациями, позволит сократить команду разработчиков с восьми до трех человек, добавив при этом пять ИИ-агентов для значительного увеличения производительности.

Агенты ИИ играют ключевую роль в этом процессе, поскольку они способны планировать и выполнять задачи с минимальным вмешательством человека. Например, такие агенты могут заниматься подготовкой и отправкой электронных писем, а также организацией поездок.

Тем не менее, Патель отметил, что традиционным разработчикам все равно потребуется проверять и редактировать код.

Он также поставил под сомнение традиционную концепцию human-in-the-loop, подразумевающую обязательное участие человека в работе ИИ. Вместо этого, он предложил рассматривать ИИ как интегрированного участника в каждом этапе работы, а не просто как инструмент.

Проблемы с контролем ИИ-агентов

Несмотря на оптимистичный взгляд на ИИ, Патель выразил свои опасения по поводу безопасности, связанной с ИИ-агентами. «Наиболее волнующими для меня остаются вопросы безопасности. Важно не игнорировать потенциальные негативные последствия этой технологии», — подчеркнул он.

«Эти агенты, выполняя задачи от нашего имени, должны проходить проверки надежности, как и любые другие сотрудники», — добавил он.

По словам Пателя, Cisco планирует инвестировать миллиарды долларов в безопасность, чтобы решить две ключевые задачи: защитить ИИ-агентов от внешних угроз и предотвратить возможные риски, связанные с их неконтролируемым поведением.

«Мы обязаны защищать агента от мира, а мир — от агента», — подчеркнул он.

Компания стремится стать важнейшей частью инфраструктуры новой эпохи ИИ, создавая так называемый «полный стек», охватывающий все, от кремниевых чипов до прикладных решений.

Разрабатывая всё — от специализированных чипов до программного обеспечения, Cisco нацелена стать критически важной частью инфраструктуры, необходимой в эпоху ИИ.

«Когда мы одновременно разрабатываем аппаратное и программное обеспечение, возникает настоящая магия, так как все работает слаженно», — объяснил он.

Говоря о будущем, Патель отметил, что даже значительный рост производительности не является основной целью. «Главное — это новые идеи и знания, которые ИИ может генерировать, и которые отсутствуют в текущем массиве человеческих знаний, позволяя решать проблемы, о которых мы раньше даже не мечтали», — сказал он, упомянув о потенциальных прорывах в области здравоохранения, борьбы с бедностью и других важных сферах.
VK X OK WhatsApp Telegram

Читайте также: