Чув
Регистрация Вход
  1. Главная
  2. Монография
  3. Современные вопросы педагогики и психологии: теор...
  4. Когнитивные искажения нейросетевых моделей и пробл...

Когнитивные искажения нейросетевых моделей и проблема доверия синтетическому «знанию»

Глава в книге
DOI: 10.31483/r-109589
Open Access
монография «Современные вопросы педагогики и психологии: теоретико-методологические подходы и практические результаты исследований»
Creative commons logo
Опубликовано в:
монография «Современные вопросы педагогики и психологии: теоретико-методологические подходы и практические результаты исследований»
Автор:
Миронова Н. Г. 1
Рубрика:
Глава 7
Страницы:
114-130
Получена: 24.12.2023

Рейтинг:
Статья просмотрена:
1087 раз
Размещено в:
РИНЦ
1 Институт информатики, математики и робототехники ФГБОУ ВО «Уфимский университет науки и технологий»
Для цитирования:
Современные вопросы педагогики и психологии: теоретико-методологические подходы и практические результаты исследований : монография / А. А. Киселев, А. И. Кугай, Г. И. Авходиев [etc.]. – Чебоксары: «Лару-тăру» («Среда») издательство çурчě, 2024. – 172 с. – ISBN 978-5-907830-04-2. – DOI 10.31483/a-10568.

Аннотаци

В последние десятилетия специалисты в области конгитивной психологии и эпистемологии описали порядка двухсот искажений, присущих человеческому мышлению. Активно создаваемые и внедряемые в социальную, в т.ч. образовательную, практику системы на основе моделей искусственного интеллекта проявляют аналогичные человеческому мышлению характеристики, в т.ч. когнитивные дефекты. В главе анализируются некоторые когнитивные искажения, присущие, по мнению автора, моделям искусственного интеллекта, в частности большим генеративным нейросетевым моделям.

Список литературы

  1. 1. Открытое письмо «Приостановить гигантские эксперименты с искусственным интеллектом» / колл. авторов. [Электронный ресурс]. – Режим доступа: https://futureoflife.org/open-letter/pause-giant-ai-experiments/ (дата обращения: 20.09.2023).
  2. 2. Белоус М. Как не поддаться на обман ChatGPT и как обмануть его самому / М. Белоус [Электронный ресурс]. – Режим доступа: https://3dnews.ru/1084679/kak-obmanut-chatgpt-i-ne-poddatsya-na-ego-obman (дата обращения: 20.09.2023).
  3. 3. Мец Кейд Why Do A.I. Chatbots Tell Lies and Act Weird? Look in the Mirror [Electronic resource]. – Access mode: https://www.nytimes.com/2023/02/26/technology/ai-chatbot-information-truth.html?action=click&pgtype=Article&state=default&module=styln-artificial-intelligence&variant=show®ion=BELOW_MAIN_CONTENT&block=storyline_flex_guide_recirc (дата обращения: 30.06.2023).
  4. 4. Павлова Д. Тайны «бога из машины». Интервью «Завтра.ру» Константина Воронцова, профессора РАН, заведующего кафедрой машинного обучения и цифровой гуманитаристики МФТИ [Электронный ресурс]. – Режим доступа: https://zanauku.mipt.ru/2022/06/09/tajny-boga-iz-mashiny/ (дата обращения: 09.06.2022).
  5. 5. Агера-и-Аркас Б. Искусственные нейронные сети делают шаги к сознанию / Б. Агера-и-Аркас // The Economist. – 13.06.2022 [Электронный ресурс]. – Режим доступа: www.tinyurl.com/ymhk37uu (дата обращения: 09.06.2022).
  6. 6. Бендер Э.М. Об опасностях стохастических попугаев: могут ли языковые модели быть слишком большими? / Э.М. Бендер, Т. Гебру, А. Макмиллан-Мейджор // Материалы конференции ACM 2021 г. по вопросам справедливости, подотчетности и прозрачности. – 2021. – С. 610–623.
  7. 7. Marcus G. Nonsense on Stilts. No, LaMDA is not sentient. Not even slightly [Electronic resource]. – Access mode: https://garymarcus.substack.com/p/nonsense-on-stilts (дата обращения: 30.06.2023).
  8. 8. Миклашевская А. Искусственный интеллект заговорил по-своему / А. Миклашевская [Электронный ресурс]. – Режим доступа: https://www.kommersant.ru/doc/3372761 (дата обращения: 30.06.2023).
  9. 9. Нейросеть создала собственный язык, который ученые не могут расшифровать [Электронный ресурс]. – Режим доступа: https://www.ixbt.com/news/2022/06/03/nejroset-sozdala--sobstvennyj-jazyk-kotoryj-uchenye-ne-mogut-rasshifrovat.html (дата обращения: 30.06.2023).
  10. 10. Миронова Н.Г. Глава 5. Безопасность использования когнитивных информационных технологий принятия решений / Н.Г. Миронова // Экономика и право. – Чебоксары: Среда, 2021. – С. 112–131 [Электронный ресурс]. – Режим доступа: https://elibrary.ru/item.asp?id=46291391 (дата обращения: 30.11.2023). EDN TAXFFN

Комментарии(0)

При добавлении комментария укажите:
  • степень актуальности публикуемого материала;
  • общую оценку (оригинальность и актуальность темы, полнота, глубина, всесторонность раскрытия темы, логичность, связность, доказательность, структурная упорядоченность, характер и достоверность примеров, иллюстративного материала, убедительность выводов);
  • недостатки, недочеты;
  • вопросы и пожелания Автору.