Источник: techxplore.com
"Чтобы быть откровенным, сегодня модель еще не способна поднять руки и сказать: 'Эй, я не уверен, мне нужна помощь,'" -рассказал Сингх в интервью AFP.
С прошлого года Microsoft, Google и их конкуренты активно внедряют генеративные AI-приложения, такие как ChatGPT, которые создают разнообразный контент по запросу и создают у пользователей иллюзию всезнания.
Однако, несмотря на прогресс, они все еще "галлюцинируют", то есть придумывают ответы.
Это важная проблема, которую Сингх пытается решить: корпоративные клиенты не могут позволить себе, чтобы их AI-системы периодически "сходили с рельсов".
Генеральный директор Salesforce Марк Бениофф на этой неделе отметил, что многие его клиенты все больше разочаровываются в работе Microsoft Copilot.
Сингх подчеркнул, что "очень умные люди" работают над тем, чтобы научить чатботов признавать, когда они не знают правильного ответа, и просить помощи.
"Реальная экономия"
По мнению Сингха, более скромная модель все равно была бы полезной. Даже если модель будет нуждаться в помощи человека в 50% случаев, это все равно сэкономит "огромные деньги".
В одном из клиентов Microsoft, "каждый новый запрос стоит $8 на ответ от представителя службы поддержки, поэтому есть реальная экономия, и это также улучшает опыт клиента, поскольку он получает более быстрый ответ."
Сингх присоединился к Microsoft в январе и этим летом возглавил команды, разрабатывающие "Copilot"-AI-помощника Microsoft, который специализируется на продажах, бухгалтерии и онлайн-сервисах.
Эти приложения имеют гигантскую задачу - обеспечивать доход и оправдывать огромные инвестиции в генеративный AI.
Во время пика AI-лихорадки стартапы, продвигавшие эту технологию, обещали системы настолько продвинутые, что они "вознесут человечество," как сказал Сэм Альтман, руководитель OpenAI, который в основном финансируется Microsoft.
Но пока что новые технологии в основном используются для повышения производительности и, возможно, прибыльности.
Но пока что новые технологии в основном используются для повышения производительности и, возможно, прибыльности. <Согласно Microsoft, Copilot может помочь продавцам в исследованиях, освобождая время для звонков клиентам. Lumen, телекоммуникационная компания, "экономит около $50 миллионов в год" благодаря этому, сказал Сингх.
"Первое иннинг"
Иными словами, прежде чем найти решение проблемы глобального потепления, AI сначала должен освободить человечество от скучных, повторяющихся задач.
"Мы только в начале," отметил Сингх. "Многие из этих вещей базируются на производительности, но они, очевидно, имеют огромные преимущества."
Превратятся ли эти достижения в производительности в сокращение рабочих мест?
Руководители крупных компаний, такие как К Критивасан, глава индийского IT-гиганта TCS, заявили, что генеративный AI почти уничтожит колл-центры.
Но Сингх, как и многие другие руководители в Кремниевой долине, полагается на технологии, чтобы сделать людей более креативными и даже создавать новые рабочие места.
Он привел свой опыт работы в Yahoo в 2008 году, когда десяток редакторов выбирали статьи для главной страницы.
"Мы придумали идею использования AI для оптимизации этого процесса, и некоторые люди спрашивали: 'О Боже, что же произойдет с сотрудниками?' - вспоминает Сингх.
Автоматизированная система позволила быстрее обновлять контент, тем самым увеличивая количество кликов по ссылкам, но также и потребность в новых статьях.
"В конце концов," сказал руководитель, "нам пришлось нанять больше редакторов.
