В России создали лабораторию для развития безопасного и суверенного ИИ
Ученые из научно-исследовательского центра T-Bank AI Research занимаются обучением моделей искусственного интеллекта, которые используются в чат-ботах. Требуется, чтобы их ответы были логичными и этичными.
"Очень важно, чтобы поведение искусственного интеллекта соответствовало ожиданиям пользователя, это не всегда это так, потому что эти системы учатся на открытых данных из интернета, где много лжи и оскорбительной информации", – поясняет Борис Шапошников, исследователь Omut AI, совместной лаборатории T-Bank AI Research и Центрального университета.
Чтобы избежать оскорблений и хамского поведения со стороны нейросети, а также добиться верных ответов на вопросы, ученым требуется найти новые формулы и коды, сделать поведение искусственного интеллекта предсказуемым и подконтрольным человеку.
"Мы можем представить ситуацию, когда мы даем модель ИИ детям в образовательных целях. Но будет странно, если эта модель станет давать детям информацию, которая им не предназначена. Мы понимаем, что есть какие-то ограничения, которым модель должна соответствовать", – добавляет Даниил Гаврилов, руководитель Omut AI, совместной лаборатории T-Bank AI Research и Центрального университета.
Чтобы проводить такие фундаментальные исследования искусственного интеллекта ученые из научно-исследовательского центра T-Bank AI Research вместе с Центральным университетом создали совместную лабораторию Omut AI, в которой работают и студенты.
"Область искусственного интеллекта развивается. Для этого нужны колоссальные объемы данных. У любого ученого, который работает в лаборатории, таких данных просто нет. Но эти данные есть у бизнеса, есть у компаний, которые развивают социальные сети, есть у банков, которые работают с миллионами клиентов", – подчеркивает Евгений Ивашкевич, ректор Центрального университета.
В лаборатории уже работают студенты, прошедшие собеседование и выполнившие тестовое задание.
"Больше всего мне понравилось именно исследовать и открывать что-то новое", -- говорит студент четвертого курса Ян Максимов, стажер-исследователь T-Bank AI Research.
Лаборатория, созданная T-Bank AI Research и Центральным университетом, будет изучать модели искусственного интеллекта, которые работают не только с текстом, но еще и со звуком и изображением. По итогам исследований будут написаны научные статьи для международных конференций по ИИ.