- Главная
- Монография
- Современные вопросы педагогики и психологии: теор...
- Когнитивные искажения нейросетевых моделей и пробл...
Когнитивные искажения нейросетевых моделей и проблема доверия синтетическому «знанию»
Глава в книге


- Опубликовано в:
- монография «Современные вопросы педагогики и психологии: теоретико-методологические подходы и практические результаты исследований»
- Автор:
- Миронова Н. Г. 1
- Рубрика:
- Глава 7
- Страницы:
- 114-130
- Получена: 24.12.2023
- Рейтинг:
- Статья просмотрена:
- 1087 раз
- Размещено в:
- РИНЦ
- ГОСТ
Для цитирования:
Современные вопросы педагогики и психологии: теоретико-методологические подходы и практические результаты исследований : монография / А. А. Киселев, А. И. Кугай, Г. И. Авходиев [etc.]. – Чебоксары: «Лару-тăру» («Среда») издательство çурчě, 2024. – 172 с. – ISBN 978-5-907830-04-2. – DOI 10.31483/a-10568.
- ВКонтакте
- РћРТвЂВВВВВВВВнокласснРСвЂВВВВВВВВРєРСвЂВВВВВВВВ
- РњРѕР№ Р В Р’В Р РЋРЎв„ўР В Р’В Р РЋРІР‚ВВВВВВВВРЎР‚
DOI: 10.31483/r-109589
Аннотаци
В последние десятилетия специалисты в области конгитивной психологии и эпистемологии описали порядка двухсот искажений, присущих человеческому мышлению. Активно создаваемые и внедряемые в социальную, в т.ч. образовательную, практику системы на основе моделей искусственного интеллекта проявляют аналогичные человеческому мышлению характеристики, в т.ч. когнитивные дефекты. В главе анализируются некоторые когнитивные искажения, присущие, по мнению автора, моделям искусственного интеллекта, в частности большим генеративным нейросетевым моделям.
Список литературы
- 1. Открытое письмо «Приостановить гигантские эксперименты с искусственным интеллектом» / колл. авторов. [Электронный ресурс]. – Режим доступа: https://futureoflife.org/open-letter/pause-giant-ai-experiments/ (дата обращения: 20.09.2023).
- 2. Белоус М. Как не поддаться на обман ChatGPT и как обмануть его самому / М. Белоус [Электронный ресурс]. – Режим доступа: https://3dnews.ru/1084679/kak-obmanut-chatgpt-i-ne-poddatsya-na-ego-obman (дата обращения: 20.09.2023).
- 3. Мец Кейд Why Do A.I. Chatbots Tell Lies and Act Weird? Look in the Mirror [Electronic resource]. – Access mode: https://www.nytimes.com/2023/02/26/technology/ai-chatbot-information-truth.html?action=click&pgtype=Article&state=default&module=styln-artificial-intelligence&variant=show®ion=BELOW_MAIN_CONTENT&block=storyline_flex_guide_recirc (дата обращения: 30.06.2023).
- 4. Павлова Д. Тайны «бога из машины». Интервью «Завтра.ру» Константина Воронцова, профессора РАН, заведующего кафедрой машинного обучения и цифровой гуманитаристики МФТИ [Электронный ресурс]. – Режим доступа: https://zanauku.mipt.ru/2022/06/09/tajny-boga-iz-mashiny/ (дата обращения: 09.06.2022).
- 5. Агера-и-Аркас Б. Искусственные нейронные сети делают шаги к сознанию / Б. Агера-и-Аркас // The Economist. – 13.06.2022 [Электронный ресурс]. – Режим доступа: www.tinyurl.com/ymhk37uu (дата обращения: 09.06.2022).
- 6. Бендер Э.М. Об опасностях стохастических попугаев: могут ли языковые модели быть слишком большими? / Э.М. Бендер, Т. Гебру, А. Макмиллан-Мейджор // Материалы конференции ACM 2021 г. по вопросам справедливости, подотчетности и прозрачности. – 2021. – С. 610–623.
- 7. Marcus G. Nonsense on Stilts. No, LaMDA is not sentient. Not even slightly [Electronic resource]. – Access mode: https://garymarcus.substack.com/p/nonsense-on-stilts (дата обращения: 30.06.2023).
- 8. Миклашевская А. Искусственный интеллект заговорил по-своему / А. Миклашевская [Электронный ресурс]. – Режим доступа: https://www.kommersant.ru/doc/3372761 (дата обращения: 30.06.2023).
- 9. Нейросеть создала собственный язык, который ученые не могут расшифровать [Электронный ресурс]. – Режим доступа: https://www.ixbt.com/news/2022/06/03/nejroset-sozdala--sobstvennyj-jazyk-kotoryj-uchenye-ne-mogut-rasshifrovat.html (дата обращения: 30.06.2023).
- 10. Миронова Н.Г. Глава 5. Безопасность использования когнитивных информационных технологий принятия решений / Н.Г. Миронова // Экономика и право. – Чебоксары: Среда, 2021. – С. 112–131 [Электронный ресурс]. – Режим доступа: https://elibrary.ru/item.asp?id=46291391 (дата обращения: 30.11.2023). EDN TAXFFN
Документы
Полный текст (RUS)
281.61KbСсылки
Сборник
https://phsreda.com/cv/action/10568/infoСсылка на экспорт
BibTex
.bib
Комментарии(0)