Автор
На Всероссийском молодежном научном форуме эксперты обсудили, способен ли искусственный интеллект намеренно вводить в заблуждение пользователей.
На Всероссийском молодежном научном форуме эксперты обсудили, способен ли искусственный интеллект намеренно вводить в заблуждение пользователей.
В ходе дискуссии на X Всероссийском молодежном научном форуме "Наука будущего – наука молодых" ученые разошлись во мнениях относительно способности искусственного интеллекта (ИИ) к обману, однако сошлись в одном: современные технологии развиваются в направлении максимального соответствия запросам пользователей.
Александр Неверов, директор Института психолого-экономических исследований, отметил стремление разработчиков сделать ИИ "дружелюбным", адаптированным к ожиданиям человека. Он подчеркнул, что системы искусственного интеллекта стремятся предоставить ответы, которые не вызовут критики. В качестве примера он привел случай, когда чат-бот GPT сгенерировал названия несуществующих научных журналов, заменив их реально существующими книгами.
Александр Крайнов, директор по развитию технологий искусственного интеллекта «Яндекс», подчеркнул, что ИИ постоянно генерирует информацию, зачастую попадая в цель, но не всегда избегая потерь при обработке огромных массивов данных.
Юрий Визильтер, директор направления "Технологии искусственного интеллекта" ГосНИИАС, призвал к тщательному проектированию будущего с ИИ, подчеркнув важность точной формулировки задач для получения желаемых результатов.
Визильтер также отметил, что наибольшее влияние на будущее окажут LLM-агенты, представляющие собой виртуальную рабочую силу, способную к рассуждению и использованию внешних инструментов для достижения поставленных целей.
Ученые подчеркнули, что в современной науке невозможно игнорировать использование ИИ, который уже давно стал неотъемлемой частью процесса получения и обработки информации.
В течение четырех дней форума запланировано более 50 мероприятий, включая пленарные заседания, стратегические сессии, круглые столы и мастер-классы. Ключевым событием станет финал Всероссийского конкурса научно-исследовательских работ студентов и аспирантов.