Президент Cisco: ИИ-агентам нужны проверки благонадёжности, как сотрудникам

На недавнем саммите по ИИ в Амстердаме Джиту Патель заявил, что Cisco разработала продукт, код которого полностью генерируется ИИ. Он также добавил, что к концу 2026 года в компании планируется минимум полдюжины таких продуктов.

Когда его спросили, как это повлияет на будущее программистов, Патель посоветовал: «Не стоит бояться, что ИИ отнимет вашу работу. Гораздо больше стоит опасаться того, что это сделает человек, способный лучше использовать ИИ. В Cisco разработка с ИИ станет нормой для всех программистов».

Патель сообщил, что переход к специфицированной разработке позволит сократить команду с восьми до трех человек, при этом добавив пятерых ИИ-агентов, что в итоге увеличит производительность в три раза.

Ключевую роль в этом процессе будут играть ИИ-агенты — системы, способные планировать и выполнять задачи с минимальным человеческим участием, например, заниматься организацией поездок или отправкой писем.

Тем не менее, даже в таком сценарии разработчики должны будут проверять и корректировать код.

Патель также подверг критике традиционное восприятие концепции «человек в контуре», утверждая, что ИИ должен быть интегрирован в каждый аспект работы, воспринимаясь как цифровой коллега, а не просто инструмент.

Опасности неконтролируемых ИИ-агентов

Несмотря на оптимистичный взгляд на ИИ, Патель выразил свои опасения по поводу безопасности, связанных с этими технологиями. «Меня больше всего беспокоят вопросы безопасности. Важно не идеализировать ИИ и серьезно осмысливать его потенциальные негативные последствия», — подчеркнул он.

Он добавил: «Агенты, которые будут выполнять задачи от нашего имени, должны проходить проверки надежности, как и любой работник компании». Cisco планирует инвестировать миллиарды долларов в безопасность, чтобы защитить ИИ-агентов от атак и предотвратить их неконтролируемое поведение.

Патель отметил: «Мы должны защищать агентов от внешней среды и защищать окружающий мир от агентов».

Компания стремится стать важнейшей инфраструктурой в эпоху ИИ, создавая так называемый «полный стек» — от кремниевых чипов до программных решений.

Разрабатывая все, начиная от специализированных кремниевых чипов и заканчивая программным обеспечением, Cisco надеется стать той самой важной инфраструктурой для ИИ.

Смотря в будущее, Патель подчеркнул, что увеличение производительности — не главная цель. «Самое важное — это новые идеи и знания, которые ИИ может предоставить, и которые не существуют в человеческом понимании. Эти идеи могут помочь решать проблемы, о которых мы раньше даже не мечтали», — отметил он, говоря о возможных прорывах в медицине и энергетике.