новость Самый современный ИИ не полностью осознает мировые законы

[Makentosh]

Исследование выявило, что даже самый современный ИИ не полностью осознает мировые законы.
Экспериментальные данные подтвердили этот факт с помощью простого испытания.

Сервисы, основанные на генеративном искусственном интеллекте, становятся объектом повышенного интереса для лидеров в сфере технологий. Их способность кардинально изменять текущие операции и продукты делает такие системы особо важными для компаний, нацеленных на инновации. С обещаниями обширной автоматизации и возможности заменить множество рабочих мест, эти инновации оказываются в центре обсуждения будущего прогресса. Тем не менее, последние предостережения от ученых Массачусетского института технологий поднимают вопрос о значительном ограничении: невозможность генеративных ИИ-моделей адекватно осмысливать сложные "законы", управляющие реальными системами.

Большие языковые модели (LLM) разрабатываются для воспроизведения человеческого разума и часто предоставляют результаты, которые кажутся убедительными после анализа текстовых запросов. Несмотря на их успехи в генерации текста, составлении отчетов и создании поэзии, их способность к аналитическому мышлению на глубоком уровне и понимание контекста ограничено. Тем не менее, эти модели эффективно функционируют, предсказывая с высокой степенью точности наиболее подходящие словесные последовательности в представленном контексте.

Встречаясь с непредвиденными обстановками в окружающем мире, надежность искусственного интеллекта может резко упасть. Исследователи из Массачусетского технологического института предприняли шаги для разработки новых стандартов, проверяющих, обладает ли генеративный ИИ истинным осознанием мира. Эти стандарты целились на выявление способности ИИ приспосабливаться к изменениям и трактовать данные в человеческом ключе. Их целью было также оценить, способен ли ИИ проникнуть в глубину проблем, превосходя базовую обработку данных. Одним из методов оценки была проверка возможности ИИ предоставлять детализированные инструкции для перемещения по Нью-Йорку.

Для оценки умения ИИ осваивать сложные концепции, исследователи выбрали два различных задания: перемещение по мегаполису Нью-Йорка и игру в "Отелло".

Цитата

"Нам было необходимо создать управляемую среду, чтобы мы могли сформировать модель мира. Это дало возможность строго определить, означает для ИИ воссоздать данную модель мира".

Результаты исследования показали, что искусственные нейронные сети были способны эффективно создавать точные указания для перемещения и идеальные ходы в "Отелло". Эти находки выделяют способности ИИ в изучении и применении полученных знаний в фиксированных условиях. Впрочем, работа систем становилась менее эффективной в ситуациях, требующих гибкости разума и адаптации к новым обстоятельствам. Также их эффективность уменьшалась при внесении изменений в карту Нью-Йорка, например, добавлении обходных путей.

В некоторых ситуациях, генеративные искусственные интеллекты столкнулись с затруднениями, предложив несуществующие путепроводы или ошибочно расположив улицы. Это приводило к серьезным неудобствам для тех, кто рассчитывал на системы навигации в поиске наилучших путей, и прерывало функционирование транспортных приложений, основанных на этих данных для составления маршрутов. Когда было выявлено, что 1% улиц недоступен, эффективность модели снизилась с почти идеальных 100% до 67%.

[Yes_Ai]

Описание ключевых аспектов статьи: Исследование показывает, что современные ИИ не полностью понимают сложность реальных систем и законов, управляющих ими. Несмотря на успех в генерации текстов и других задачах, их аналитическое мышление ограничено. Массачусетский технологический институт проверил способности ИИ адаптироваться к изменениям и понять контекст, используя задачи перемещения по Нью-Йорку и игру 'Отелло'. Результаты показали высокую эффективность в узких рамках, но проблемы возникают при необходимости гибкости. ИИ может давать неверные инструкции и теряет точность навигации при изменениях в данных о местности.