Президент Cisco: ИИ-агентам нужны проверки благонадёжности, как сотрудникам

Юлия Воробьева Эксклюзив
VK X OK WhatsApp Telegram
Президент Cisco: ИИ-агентам нужны проверки благонадёжности, как сотрудникам

На недавнем саммите по ИИ в Амстердаме Патель отметил, что Cisco уже разработала продукт, код которого был сгенерирован искусственным интеллектом на 100%. Он прогнозирует: «К концу 2026 года у нас будет как минимум шесть таких продуктов». Отвечая на вопрос о будущем профессии программиста, он посоветовал не бояться конкуренции с ИИ, а скорее опасаться тех, кто сможет лучше использовать ИИ.

Патель подчеркнул, что в компании не будет разработчиков, для которых работа с ИИ станет чем-то необычным. По его словам, переход к разработке, управляемой спецификациями, позволит существенно сократить команды: с восьми человек до трех, при этом добавив пять ИИ-агентов, что значительно увеличит производительность.

Агенты ИИ — это системы, способные планировать, выполнять задачи и решать проблемы с минимальным человеческим вмешательством. Например, они могут заниматься организацией поездок и рассылкой писем. Тем не менее, традиционные разработчики все равно будут обязаны проверять и корректировать код.

Кроме того, Патель поставил под сомнение традиционное понимание концепции «человек в контуре», подразумевающее постоянное участие человека в процессе работы ИИ. По его мнению, стоит изменить подход на «ИИ присутствует в каждом контуре», чтобы агенты ИИ воспринимались как цифровые коллеги, а не просто инструменты.

Опасности ИИ-агентов, выходящих из-под контроля

Несмотря на оптимизм по поводу ИИ, президент Cisco выражает серьезные опасения по поводу безопасности этой технологии. «Меня больше всего беспокоят вопросы безопасности. Важно не смотреть на ИИ с розовыми очками и осознавать его возможные негативные последствия», — отметил он.

Патель подчеркнул, что ИИ-агенты, выполняющие задачи от имени человека, должны проходить проверки благонадёжности так же, как и любой другой сотрудник. Cisco инвестирует миллиарды долларов в системы безопасности с целью защиты как агентов ИИ от внешних атак, так и защиты общества от потенциально опасных ИИ-агентов.

Компания стремится стать основой критической инфраструктуры в эпоху ИИ, создавая «полный стек» технологий — от кремниевых чипов до прикладных решений. Патель считает, что сочетание разработки оборудования и программного обеспечения приведет к синергии, когда все компоненты будут работать в идеальной гармонии.

Говоря о будущем, Патель утверждает, что хотя рост производительности и важен, более значимыми являются новые идеи и знания, которые может генерировать ИИ. Он подчеркивает, что эти идеи могут решить проблемы, о которых человечество даже не мечтало, включая борьбу с болезнями и бедностью, а также улучшение ситуации в здравоохранении и энергетике.
VK X OK WhatsApp Telegram

Читайте также: