Google собирается добавить встроенный ИИ в браузер Chrome, который будет работать локально
Google собирается провести эксперимент со встроенным искусственным интеллектом в браузере Chrome. В настоящее время компания приглашает участников присоединиться к закрытому тестированию внедрения большой языковой модели машинного обучения в Chrome.
Для доступа к модели ИИ из веб-приложений и расширений браузера компания предлагает API-интерфейс Promptкоторый позволяет отправлять запросы на естественном языке, подобно чат-ботам. Предполагается, что большая языковая модель, встроенная в браузер, упростит выполнение задач ИИ в веб-приложениях и избавит от необходимости беспокоиться об установке и управлении языковыми моделями.
Среда выполнения, выполняющая модель, автоматически использует имеющиеся в системе GPU и NPU для ускорения работы с моделью или переключается на выполнение модели с использованием CPU. К преимуществам выполнения модели на системе пользователя можно отнести сохранение конфиденциальности обрабатываемых данных, возможность продолжения работы в автономном режиме при отсутствии сетевого подключения или при проблемах с качеством связи, снижение задержек при отправке запросов, исключение зависимости от внешних сервисов.
Prompt API в настоящее время позволяет взаимодействовать с моделью, которая выходит за рамки простых одиночных запросов на естественном языке. Он может выполнять обработку и классификацию данных, учитывая контекст предыдущих запросов и данных в рамках сеанса. Кроме того, модель может использоваться для определения оптимальных вариантов, таких как выбор подходящего значка из списка эмодзи для определенного комментария на веб-сайте.
Google пояснила, что API находится в активной разработке и будет расширяться и изменяться на основе отзывов и предпочтений пользователей до принятия финальной версии. В будущем Google предоставит дополнение Origin Trials, которое предоставит возможность работать с экспериментальными API из приложений, загруженных с localhost или 127.0.0.1, или после регистрации и получения специального токена, который действителен в течение ограниченного времени для определенного сайта. В то же время Google сотрудничает с производителями браузеров по стандартизации разрабатываемых API.
Если вам понравилась эта статья, пожалуйста, поделитесь ею с помощью кнопок ниже. Это не займет у вас многого, но поможет нам расти. Спасибо за вашу поддержку!
