VK AI Space разработала инструмент контроля ИИ для компаний

VK Tech добавила в платформу VK AI Space хуки – контрольные точки, которые позволяют регулировать действия автономных ИИ-агентов.

В таких точках агент приостанавливает работу и запускает заранее загруженный скрипт. В зависимости от прописанных правил система может разрешить, изменить или отменить действие.

Механизм можно использовать для защиты персональных данных, проверки прав доступа, ограничения скидок, обращения к внутренним сервисам и передачи решения сотруднику.

Хуки могут срабатывать перед запуском агента, обращением к внешней системе, после получения данных или перед отправкой итогового ответа пользователю.

"То, что промпт оставляет на усмотрение модели, хук выполняет всегда", – рассказал директор по ИИ-продуктам VK Tech Роман Стятюгин.

Он отметил, что компании смогут самостоятельно менять правила и выбирать точки их срабатывания без доработки всей платформы.

РЕН ТВ в мессенджере "МАКС" – главный по происшествиям