Издание ZDNET* формирует свои рекомендации на основе многочасовых испытаний, исследований и сравнения продуктов. Данные собираются из наиболее надёжных источников, включая описания от поставщиков и розничных продавцов, а также из других актуальных и независимых обзорных сайтов. Кроме того, тщательно изучаются отзывы клиентов, чтобы понять, что действительно важно для реальных пользователей продуктов и услуг, подлежащих оценке.
При переходе по ссылке с сайта ZDNET* к розничному продавцу и покупке продукта или услуги, издание может получать партнёрские комиссии. Это поддерживает работу редакции, но не влияет на содержание обзоров и способ их подачи, а также на стоимость для покупателя. Ни ZDNET*, ни авторы не получают компенсации за эти независимые обзоры. Соблюдаются строгие правила, гарантирующие, что редакционный контент никогда не подвергается влиянию рекламодателей.
Редакционная команда ZDNET* работает для своих читателей. Цель состоит в предоставлении максимально точной информации и наиболее квалифицированных советов, чтобы помочь принимать более обдуманные решения при покупке технических устройств и широкого спектра продуктов и услуг. Редакторы тщательно проверяют каждый материал, чтобы контент соответствовал высочайшим стандартам. При обнаружении ошибки или публикации вводящей в заблуждение информации, статья будет исправлена или уточнена. Если вы заметили неточности в материалах, сообщите об ошибке через специальную форму.
Три взгляда на построение доверия и ответственности с ИИ
Разработка здоровых отношений между человеком и искусственным интеллектом потребует формализации деловой практики. Будущее работы видится в сотрудничестве людей и ИИ-систем как коллег, совместно создающих ценность. Управление агентным ИИ должно чётко определять общую ответственность.
Винтон Серф, один из сооснователей Интернета, отмечает, что с появлением ИИ «ощущается, будто мы столкнулись с новой формой жизни, и пытаемся понять, как она мыслит». Стоит отметить, что рабочие и деловые отношения с ИИ могут отличаться от человеческих.
Дэвид Брей, технологический лидер с опытом успешной работы в сложных условиях, включая реагирование на события 11 сентября, инцидент с сибирской язвой в 2001 году и модернизацию Федеральной комиссии по связи США, предлагает: «Возможно, вместо «искусственного интеллекта» нам следует называть это «инопланетными взаимодействиями». Так мы избежим попыток антропоморфизировать машину».
Эти два наблюдения вместе указывают на то, что подход к ИИ определит успех компаний в будущем.
Шерил Страусс Эйнхорн, отмеченная наградами журналистка-расследователь, основатель и генеральный директор компании Decisive, специализирующейся на науке принятия решений, подчёркивает: «Когда наступает момент расплаты, она ложится на нас. ИИ всё равно. Мы все будем теми, кому придётся объяснять, и мы должны нести последствия». Это чёткий и убедительный призыв признать, что подход к отношениям с ИИ имеет решающее значение для определения успеха в бизнесе.
В совокупности эти три эксперта подчёркивают, что характер взаимодействия с ИИ и объём задач, в которые он вовлекается, определят успех как отдельных людей, так и компаний в предстоящем десятилетии. Для руководителей, советов директоров и высокопоставленных политиков крайне важна способность человека принимать верные решения относительно того, когда доверять или не доверять результатам работы ИИ.
На недавнем еженедельном подкасте DisrupTV у обозревателя R. «Рэя» Вана из Constellation Research и его коллеги была возможность принять Винтона Серфа, Дэвида Брея и Шерил Эйнхорн. Быстрые, но при этом чрезвычайно тонкие беседы были посвящены необходимости избегать путаницы между инструкциями, даваемыми людьми ИИ (а также ИИ другому ИИ), способам определения доверия к результатам работы ИИ и вопросу ответственности, если ИИ совершает ошибку или причиняет вред.
Избегание путаницы в инструкциях для ИИ
Винтон Серф начал обсуждение с необходимости проактивного мышления об избегании путаницы в инструкциях, даваемых либо человеком, либо одним ИИ другому ИИ, отмечая: «Большая проблема, о которой я беспокоюсь, это агенты, общающиеся друг с другом с использованием естественного языка. Нежелательно, чтобы агенты неправильно понимали друг друга и выполняли действия со скоростью света по сравнению с человеческой скоростью».
Винтон Серф, переживший становление Интернета от оригинального ARPANet до современной глобальной сети, подчеркнул риск того, что как детерминированные компьютерные программы, так и более генеративный ИИ могут делать непреднамеренные вещи, а именно: «Программы, по крайней мере детерминированные, делают то, что им говорят. Проблема в том, что иногда то, что вы им говорите, это не то, что вы хотели, чтобы они делали. Это называется багом».
Развивая комментарии Винтона Серфа, Дэвид Брей отметил: «Я определяю управление как способ избежать анархии. У нас должна быть защита от анархии, не только для людей, но и для агентов». Ранее возглавлявший позитивные изменения в турбулентных и часто хаотичных условиях, включая работу с разведывательным сообществом США, Дэвид Брей также представил образное сравнение текущей ситуации. «Это похоже на повторение ситуации 1910-х годов. Тогда ещё не изобрели светофоры. Не было даже знаков «стоп», правил проезда или тротуаров». В 1910-х годах на улицах Нью-Йорка и Чикаго трамваи двигались рядом с личными автомобилями, пешеходами и лошадьми, что можно сравнить с современными предприятиями, где одновременно сосуществуют различные облачные модели ИИ, локальные модели ИИ, человеческие пользователи и другие аналитические программные инструменты.
Шерил Эйнхорн напомнила о важности осознания собственного способа восприятия мира. «Каждый человек обладает уникальным подходом, своим «особым ингредиентом». Это то, как мы принимаем решения. И большинство не осознаёт его». Чтобы избежать недопонимания при работе с ИИ, крайне важно понимать свой собственный «особый ингредиент». Как автор книги «The Human Edge: Smarter Decisions in the Age of AI», Шерил Эйнхорн пояснила: «Если вы собираетесь руководить машиной, вам на самом деле нужно потратить больше времени на исследование своего «особого ингредиента»… чтобы вместо того, чтобы ИИ давал вам чьи-то чужие ответы… он мог работать специально для вас».
Как определить, доверять ли результатам ИИ?
Развивая своё наблюдение, что «предпринимаются попытки понять, как ИИ мыслит», Винтон Серф отметил: «Я вижу их как новый набор работников, с которыми мы можем взаимодействовать. Это очень похоже на умного исследовательского агента». Для Винтона Серфа, который председательствовал в коалиции People Centered Internet с 2017 по 2020 год, это утверждение демонстрирует признание того, что ИИ можно рассматривать не просто как инструмент, а потенциально как цифрового коллегу, способного расширить исследовательские возможности проекта. Это ключевое наблюдение подчёркивает, что для будущего работы стимулирование и руководство работниками (включая ИИ-агентов, работающих с людьми) становится важным.
Дэвид Брей, опираясь на свой опыт работы в разведывательном сообществе и Федеральной комиссии по связи, отметил, что, когда дело доходит до определения доверия к результатам работы ИИ: «Здоровой реакцией для обществ в наше время становится всё больше не доверять первому увиденному, если вы не можете это проверить по нескольким источникам… Именно так поступает ЦРУ». Для Дэвида Брея это сообщение близко к его профессиональной карьере, поскольку он однажды столкнулся с огромным количеством сгенерированных ботами комментариев, заполнивших систему общественного комментирования, с требованием записать все 23 миллиона отправленных комментариев, независимо от того, кто их опубликовал — человек или цифровой бот. Для предприятий, сталкивающихся с будущим агентного ИИ, будет крайне важно знать, когда агенты добавляют ценность во взаимодействие с клиентами. Опыт Дэвида Брея, руководившего ИТ-командой, которая поддерживала работу системы для человеческих комментариев во время этого потока, является хорошим напоминанием о том, что ИИ-агенты могут как усиливать, так и потенциально нарушать и скрывать человеческие голоса.
Шерил Эйнхорн также подчеркнула важность отстранения и признания того, что ИИ — это гораздо больше, чем просто цифровая возможность. «Это не просто новое программное обеспечение. Это на самом деле культурное изменение… касающееся решения проблем». Комментарии Шерил Эйнхорн основывались на том, что Винтон Серф и Дэвид Брей говорили о важности здравого человеческого суждения при принятии решения о том, доверять ли результатам ИИ для решения проблем в бизнесе, сообществах и компаниях. Каждое из их экспертных наблюдений подчёркивает важность здравого человеческого суждения и хорошей «химии» между людьми и ИИ в различении продуктивных ИИ-отношений от бесполезных.
Кто несёт ответственность, если ИИ делает что-то неправильно?
Для окончательной триады успешных отношений человека и ИИ, Винтон Серф, Дэвид Брей и Шерил Эйнхорн рассмотрели ключевой вопрос ответственности в случае, если что-то пойдёт не так.
Шерил Эйнхорн представила визуальный контраст в стилях использования ИИ: «На самом деле существует два разных способа использования ИИ — «хирург» и «водитель Lamborghini». Когда мы обращаемся к ИИ, мы хотим получить один конкретный ответ… мы используем его как хирурга». Существуют риски, что хирург может совершить ошибку, а также риски, что хирург может сделать всё правильно, но всё равно получить неблагоприятные результаты для своего пациента.
Для другого использования ИИ, продолжила Шерил Эйнхорн: «В других случаях… вы принимаете очень важное решение, и вам нужно пройти процесс. В этот момент вы — «водитель Lamborghini»». В этом втором случае использования ИИ, подобно вождению высокопроизводительного гоночного автомобиля, навыки навигации в крутых поворотах и знание возможностей, а также ограничений движка ИИ, крайне важны для предотвращения эквивалента «автомобильных аварий ИИ».
Кроме того, Дэвид Брей поделился уроком из практики маркировки морских судов: «Под чьим флагом работает этот ИИ-агент, когда он что-то делает? Чью организацию он представляет?» В этом примере организация, если она использует ИИ-агента, также берёт на себя ответственность за агента, при условии, что были предоставлены хорошие инструкции. Он также отметил, что различение несинтетически произведённых данных станет всё более сложной задачей в ближайшем будущем. «К 2030 году более 40 процентов информации на планете будет произведено синтетически ИИ… это создаст огромные вопросы для руководителей и советов директоров».
И наконец, Винтон Серф заметил, что индивидам и организациям необходим механизм защиты, если что-то пойдёт не так. «Создание механизма защиты в различных обстоятельствах может принести очень большую пользу и, возможно, даже стать необходимостью». Как главный евангелист Google*, Винтон Серф поощрял такие подходы к ИИ, и как он, так и Дэвид Брей признали, что такие компании, как Salesforce*, Google* и другие, применяют аналогичные конструктивные подходы к ИИ в рабочих и клиентских условиях.
Винтон Серф также развил обеспокоенность, которую он и Дэвид Брей разделяли, относительно растущей сложности в том, что следует маркировать как информацию, сгенерированную ИИ, в отличие от информации от реального человека или источников, курируемых человеком, заметив, что «потеря доступа к цифровой информации является серьёзной проблемой». Для Винтона Серфа это включает риск потери программного обеспечения для интерпретации данных, а также источника данных.
Ключевые выводы для руководителей и советов директоров
Предупреждение Винтона Серфа о том, что «нежелательно, чтобы агенты неправильно понимали друг друга и выполняли действия со скоростью света по сравнению с человеческой скоростью», подчёркивает, что отношения, которые мы, люди, имеем при взаимодействии с ИИ, а также отношения, которые ИИ имеют друг с другом, будут определять успешные результаты. Вместе Винтон Серф, Дэвид Брей и Шерил Эйнхорн выделили три основных момента:
- Существует явная необходимость обеспечить, чтобы инструкции, даваемые генеративному ИИ, были чёткими, точными и не имели непреднамеренных последствий. Визуальный образ улиц Нью-Йорка и Чикаго 1910-х годов, с трамваями на одной дороге с личными автомобилями, пешеходами и лошадьми, без знаков «стоп», чётких правил проезда или тротуаров, применим к нашей нынешней эпохе.
- Здравое человеческое суждение становится всё более важным для определения того, доверять ли результатам работы ИИ, и становится всё труднее различать контент, сгенерированный человеком, и контент, сгенерированный ИИ. Хорошая «химия» между людьми и ИИ помогает отличить продуктивные отношения с ИИ от бесполезных.
- Работа по обеспечению ясности, а также индивидуального и организационного механизма защиты, если ИИ делает что-то неправильно, будет важна для улучшения отношений человека и ИИ внутри компаний и между ними. Будут разные контексты, где люди будут взаимодействовать с ИИ; некоторые будут более сфокусированы на поиске конкретного ответа, в то время как другие будут связаны с управлением высокопроизводительным гоночным автомобилем на высокой скорости в крутых поворотах.
Все три эксперта также подчеркнули, что успешные компании, сообщества и страны будут применять «ИИ в группе», признавая сетевое взаимодействие между людьми и ИИ, включая отношения, основанные на намерениях и ответственности. Как Винтон Серф, так и Дэвид Брей также подчеркнули необходимость выйти за рамки теста Тьюринга, сосредоточившись на ИИ, который усиливает индивидуальные и коллективные человеческие способности и помогает улучшать наши сильные стороны.
Эта статья была написана в соавторстве с доктором Дэвидом Бреем, руководителем и генеральным директором LeadDoAdapt (LDA) Ventures, председателем Accelerator и выдающимся сотрудником Stimson Center.
* — деятельность компании запрещена на территории РФ
25.06.2026