Представьте регионального директора по продажам, которая сидит в арендованном автомобиле у завода клиента. У неё есть ровно десять минут до следующей встречи, чтобы внести данные о прошедших переговорах, обновить сервисный контракт и составить резюме по длинному брифу клиента. Интернет постоянно пропадает. Если её корпоративные приложения полностью полагаются на удаленные облачные серверы для обработки базовых языковых запросов, её рабочий процесс полностью останавливается. Самые эффективные мобильные приложения добиваются успеха, потому что они отдают приоритет «агентской эффективности» (agentic efficiency), а не чистому размеру модели, выполняя целевые задачи непосредственно на устройствах, которые профессионалы всегда носят с собой.
Агентская эффективность — это показатель того, насколько автономно и точно интеллектуальная система выполняет конкретную задачу пользователя в условиях ограниченных ресурсов оборудования. Вместо того чтобы оценивать инструмент по количеству миллиардов параметров в его фоновой модели, мы оцениваем его по тому, насколько успешно он устраняет препятствия в рабочем дне пользователя.
За годы исследований в области обработки естественного языка (NLP) и распознавания речи я наблюдал, как технологическая индустрия одержима массивными моделями общего назначения, которые выглядят впечатляюще в контролируемых демо-версиях, но пасуют перед реальными ограничениями. Моя позиция как практика ясна: истинная польза кроется в осознанных ограничениях. Ответственная компания по разработке программного обеспечения должна ставить надежность выше зрелищности.
Сдвиг в сторону специализированного исполнения
Мы наконец видим, что широкий рынок признает эту реальность. Бостонский институт аналитики (Boston Institute of Analytics) недавно зафиксировал структурный сдвиг в корпоративных технологиях, отметив, что отрасль активно уходит от измерения простого «размера модели» к оценке «агентской эффективности» и исполнения по принципу «медленного мышления» (slow thinking). Вместо того чтобы мгновенно генерировать правдоподобный, но потенциально ошибочный текст, специализированные модели теперь проверяют собственные логические рассуждения перед выполнением системной команды или выдачей ответа.
Именно этой философии мы придерживаемся в NeuralApps. Как компания, специализирующаяся на интеллектуальных приложениях, мы намеренно ограничиваем сферу действия наших мобильных решений на базе ИИ. Мы не создаем разговорных оракулов; мы создаем ускорители рабочих процессов, которые устраняют конкретные «точки трения» в цифровой среде.
Данные, собранные Национальным университетом, показывают, что 83% организаций называют интеграцию искусственного интеллекта своим главным стратегическим приоритетом, при этом управление взаимоотношениями с клиентами (CRM) (46%) входит в число наиболее распространенных корпоративных сценариев использования. Тем не менее, несмотря на такую высокую приоритетность, многие команды испытывают трудности с внедрением, потому что инструменты либо слишком универсальны, либо слишком тяжелы для повседневного использования «в полях».
Реалии оборудования и корпоративный пользователь
Один из самых стойких мифов в современном дизайне ПО заключается в том, что интеллектуальные приложения требуют самого последнего и дорогого оборудования. Если приложение хорошо работает только на новеньком, только что из коробки устройстве, — это провальный корпоративный инструмент.
Наш подход к разработке требует, чтобы инновационное приложение функционировало на широком спектре оборудования. Хотя продвинутый нейронный движок (neural engine) внутри iPhone 14 Pro значительно ускоряет синтаксический анализ языка и распознавание изображений на устройстве, польза должна быть доступна всем. Мы проектируем наши модели так, чтобы полевые сотрудники, использующие стандартный iPhone 14, iPhone 14 Plus с большим экраном или даже устаревший iPhone 11, получали надежное и точное выполнение задач.
Это требует оптимизации наших NLP-алгоритмов для эффективной работы при ограниченном объеме оперативной памяти. Когда вы оптимизируете модель под конкретную задачу — например, извлечение пунктов плана действий из аудиозаписи, — вы можете значительно сжать модель без потери точности.
Переосмысление CRM с помощью контекстной речи
Чтобы понять, как эта философия воплощается в реальных продуктах, посмотрите на то, как мы работаем с вводом данных о клиентах. Традиционная CRM — это, по сути, сложная база данных, обернутая в мобильный интерфейс. Она требует от пользователей вручную переходить по многочисленным экранам, выпадающим меню и текстовым полям просто для того, чтобы зафиксировать обычный телефонный звонок.
В моей области исследований NLP цель состоит в том, чтобы сопоставить неструктурированную человеческую речь со структурированными полями базы данных. Наше CRM-приложение позволяет региональному директору по продажам просто нажать кнопку и сказать: «Запиши встречу с командой по цепочке поставок. Они согласились на объемы третьего квартала, но хотят скидку 5% на логистический сбор. Назначь последующую задачу на четверг, чтобы отправить пересмотренное предложение».
Система распознавания речи на устройстве транскрибирует аудио, а локализованная языковая модель анализирует намерение. Она автоматически создает запись о встрече, отмечает конкретного клиента, записывает запрошенную скидку в поле ценообразования и планирует задачу на четверг. Перекладывая когнитивную нагрузку с пользователя на программное обеспечение, приложение становится по-настоящему полезным.
Как отметила Дилан Аслан в своем анализе устранения цифровых трений, корпоративные приложения терпят неудачу, когда требуют слишком много вводных данных от пользователя. Автоматизация ввода структурных данных гарантирует, что система действительно будет использоваться, обеспечивая организации точными данными из первых рук в режиме реального времени.
Интеллектуальный PDF-редактор: отношение к документам как к данным
Управление документами на мобильных устройствах — еще одна область, страдающая от плохой эргономики. Раньше мобильный PDF-редактор позволял пользователю просматривать файл, возможно, добавить простую подпись или вручную выделить текст.
Когда вы внедряете целевой NLP, статический документ становится интерактивным набором данных. Наш PDF-редактор спроектирован так, чтобы понимать структурную иерархию бизнес-документов. Если пользователь открывает на телефоне 40-страничное соглашение с поставщиком, читать его построчно непрактично. Вместо этого приложение может мгновенно суммировать пункты об ответственности или определить недостающие поля для подписи.
Поскольку эти запросы узкоспецифичны, мы можем использовать меньшие, высокообученные модели, которые обрабатывают текст достаточно быстро, чтобы не прерывать рабочий поток пользователя. Умут Байрак подробно описал технические детали в своем пошаговом руководстве по развертыванию нейронных сетей для конкретных задач, рассказав, как мы достигаем такой производительности с низкой задержкой даже на старых архитектурах процессоров.
Фреймворк для оценки мобильного интеллекта
Когда инженерные группы или корпоративные покупатели оценивают новые приложения, разговор обычно вращается вокруг функций. Я рекомендую сместить акцент на ограничения исполнения. Если вы решаете, действительно ли конкретный инструмент решает проблему, примените этот фреймворк оценки:
- Оценка зависимостей: Перестает ли приложение работать полностью при потере интернет-соединения, или оно может выполнять основные логические операции локально?
- Асимметрия ввода: Требует ли инструмент больше времени на настройку и конфигурацию, чем он экономит пользователю при выполнении задачи? Высокоэффективное ПО требует минимальных подсказок (промптов).
- Масштабируемость оборудования: Будет ли работа приложения плавно ухудшаться на старом оборудовании или оно станет совершенно непригодным для использования?
- Специфика задачи: Пытается ли базовая модель знать всё о мире или она знает только то, как выполнить конкретную профессиональную задачу?
Будущее корпоративного программного обеспечения — не в том, чтобы уместить самую большую модель в карман. Речь идет о снижении когнитивной нагрузки, необходимой для выполнения повседневных бизнес-задач. Сочетая целевой NLP, эффективную архитектуру кода и строгую приверженность решению реальных проблем пользователей, мы можем создавать инструменты, которыми профессионалы захотят пользоваться сами.
В NeuralApps мы продолжим расширять границы того, чего можно достичь с помощью локальных вычислений. Но мы всегда будем делать это с четким пониманием того, что технология служит рабочему процессу, а не наоборот.