Тип публикации: доклад, тезисы доклада, статья из сборника материалов конференций
Конференция: Первая всероссийская конференция "Сознание, тело, интеллект и язык в эпоху когнитивных технологий (MBIL-2023)"; Пятигорск; Пятигорск
Год издания: 2023
Аннотация: Алгоритмы глубокого обучения уже позволили системам ИИ выполнять задачи распознавания и генерирования разнообразной информации лучше, чем люди. Однако пока сохраняется мнение, что этой технологии самой по себе недостаточно для обеспечения интеллекта человеческого уровня. Хотя алгоритмы ИИ могут быть более мощными, чем люди, считаетПоказать полностьюся, что они очень мало понимают в том, что делают. Некоторые исследователи уверены, что понимание необходимо, потому что даже если ИИ может очень компетентно решить проблему, у него может не быть более широкого контекста, чтобы судить о ценности этого решения. Это скорее проблема сознания, чем интеллекта, поскольку интеллект — это способность решать проблемы, а сознание включает еще и множество различных переживаний, которые помогают создать ощущение его реальности. Внутренний субъективный опыт (квалиа) придает смысл нашей жизни, но может ли искусственное сознание ощущать смысл реальности таким же образом? Уже разработаны системы ИИ, качественно имитирующие человеческий здравый смысл, но они могут не придавать значения изменению ситуации и не стремиться к пониманию, как люди. Но редкие события, которые называются «черными лебедями» и неадекватно рационализируются, становятся все более частыми. Неспособность ИИ понимать так, как это делают люди, связана с семантикой и интерпретацией человеческих намерений. Другие проблемы с пониманием ИИ связаны с использованием афоризмов, метафор, неявной критики и иронии. Тем не менее, стремительное развитие систем ИИ позволяет надеяться на его быстрое приближение к уровню человеческого понимания. Возникает новая проблема: смогут ли сами люди понять скрытые намерения нечеловеческого интеллекта? Deep learning algorithms have already enabled AI systems to perform tasks of recognizing and generating a variety of information better than humans. However, the view remains that this technology alone is not enough to provide human-level intelligence. While AI algorithms may be more powerful than humans,they are thought to have very little understanding of what they are doing. Some researchers believe that understanding is necessary because even if an AI can solve a problem very competently, it may not have the broader context to judge the value of that solution. This is more of a problem of consciousness than intelligence, because intelligence is the ability to solve problems, and consciousness also includes many different experiences that help create a sense of its reality. Inner subjective experience (qualia) gives meaning to our lives, but can artificial consciousness sense the meaning of reality in the same way? AI systems have already been developed that qualitatively mimic human common sense, but they may not attach importance to changing the situation and not seek understanding like people do. But rare events, called «black swans» and inadequately rationalized, are becoming more and more frequent. The inability of AI to understand in the way humans do has to do with the semantics and interpretation of human intentions. Other problems with understanding AI are related to the use of aphorisms, metaphors, implicit criticism and irony. However, the rapid development of AI systems allows us to hope for its rapid approach to the level of human understanding. A new problem arises: can humans themselves understand the hidden intentions of non-human intelligence?
Журнал: Сознание, тело, интеллект и язык в эпоху когнитивных технологий
Номера страниц: 44-46
Место издания: RUS
Издатель: Пятигорский государственный университет