Как ИИ меняет математику для стартапов

Аманда Сильвер из Microsoft на протяжении 24 лет помогает разработчикам, а последние несколько лет это означало создание инструментов для искусственного интеллекта. После длительной работы в GitHub Copilot, Сильвер сейчас является вице-президентом подразделения CoreAI Microsoft, где она работает над инструментами для развертывания программ и агентских систем в предприятиях.

Ее работа сосредоточена на системе Foundry внутри Azure, которая разработана как единый портал искусственного интеллекта для предприятий, что дает ей подробное представление о том, как компании фактически используют эти системы и где развертывания в конечном итоге терпят неудачу.

Это сокращенное интервью с Сильвер о текущих возможностях корпоративных агентов и о том, почему она считает это самой большой возможностью для стартапов со времен публичного облака.

Итак, ваша работа сосредоточена на продуктах Microsoft для внешних разработчиков — часто это стартапы, которые иначе не сосредоточены на искусственном интеллекте. Как, по вашему мнению, ИИ повлияет на эти компании?

Я считаю это переломным моментом для стартапов, таким же глубоким, как и переход к публичному облаку. Если подумать, облако оказало огромное влияние на стартапы, поскольку это означало, что им больше не нужно было иметь недвижимость для размещения своих стоек, и им не нужно было тратить столько денег на капиталовложения для размещения оборудования в их лабораториях и т. д. Все стало дешевле. Теперь агентский ИИ продолжит снижать общую стоимость операций программного обеспечения, поскольку многие задачи, связанные с запуском нового предприятия — будь то поддержка людей, юридические расследования — многие из них можно выполнить быстрее и дешевле с помощью агентов ИИ. Я думаю, что это приведет к запуску большего количества предприятий и стартапов. А затем мы увидим стартапы с более высокой оценкой и меньшим количеством людей у руля. И я думаю, что это увлекательный мир.

Как это выглядит на практике?

Мы, безусловно, видим, как многошаговые агенты становятся очень широко используемыми во всех различных видах задач кодирования, не так ли? Например, одна из вещей, которую разработчики должны делать для поддержки кодовой базы, это быть в курсе последних версий библиотек, от которых она зависит. У вас может быть зависимость от более старой версии среды выполнения .NET или Java SDK. И мы можем использовать эти агентские системы для анализа всей вашей кодовой базы и обновления ее гораздо легче, возможно, с сокращением времени на 70% или 80%. И для этого действительно должен быть развернут многошаговый агент.

Операции в режиме реального времени — это еще одна проблема: если вы думаете о поддержке веб-сайта или сервиса, и что-то пойдет не так, ночью раздается глухой грохот, и кто-то должен быть на связи, чтобы его разбудили и отреагировали на инцидент. У нас до сих пор есть люди, которые дежурят круглосуточно, на случай, если сервис выйдет из строя. Но раньше это была очень ненавистная работа, потому что вас довольно часто будили из-за этих незначительных инцидентов. А теперь мы создали генетическую систему для успешной диагностики и во многих случаях полного устранения проблем, возникающих во время этих операций в режиме реального времени, чтобы людям не приходилось просыпаться посреди ночи и сонно идти к своим терминалам, пытаясь диагностировать, что происходит. И это также помогает нам значительно сократить среднее время, необходимое для решения инцидента.

Еще одна загадка настоящего заключается в том, что развертывание агентов не происходит так быстро, как мы ожидали даже шесть месяцев назад. Интересно, почему, по вашему мнению, так происходит?

Если подумать о людях, которые создают агенты, что мешает им достичь успеха, то во многих случаях это сводится к тому, что они на самом деле не знают, какой должна быть цель агента. Необходимо изменение культуры в том, как люди создают эти системы. Какой бизнес-кейс они пытаются решить? Чего они пытаются достичь? Вам нужно четко понимать, что является определением успеха для этого агента. И вам нужно подумать, какие данные я предоставляю агенту, чтобы он мог обдумать, как выполнить эту конкретную задачу?

Мы рассматриваем эти вещи как более серьезные препятствия, чем общая неопределенность в отношении разрешения на развертывание агентов. Любой, кто ознакомится с этими системами, увидит окупаемость инвестиций.

Вы упоминаете об общей неопределенности, которая снаружи воспринимается как большое препятствие. Почему вы считаете ее меньшей проблемой на практике?

Прежде всего, я думаю, что очень распространенной практикой в агентских системах будут сценарии с участием человека. Представьте себе что-то вроде возврата посылки. Раньше у вас был рабочий процесс для обработки возврата, который был на 90% автоматизирован и на 10% состоял из человеческого вмешательства, когда кто-то должен был осмотреть посылку и сделать вывод о ее повреждении, прежде чем принять решение о возврате.

Это отличный пример того, как модели компьютерного зрения становятся настолько совершенными, что во многих случаях нам не нужен такой большой человеческий надзор за проверкой упаковки и принятием решения. Все еще будут некоторые пограничные случаи, когда, возможно, компьютерное зрение еще недостаточно хорошее для принятия решения, и, возможно, будет эскалация. Это что-то вроде: как часто нужно звонить менеджеру?

Есть вещи, которые всегда будут требовать определенного человеческого надзора, поскольку это такие критические операции. Подумайте о том, чтобы взять на себя договорное юридическое обязательство или развернуть код в производственной кодовой базе, что потенциально может повлиять на надежность ваших систем. Но даже тогда возникает вопрос, как далеко мы можем зайти в автоматизации остальной части процесса.