<?xml version="1.0" encoding="UTF-8"?> <!DOCTYPE book PUBLIC "-//NLM//DTD BITS Book Interchange DTD v2.3 20210610//EN" "BITS-book2.3.dtd"> <book xmlns:xlink="http://www.w3.org/1999/xlink" xmlns:mml="http://www.w3.org/1998/Math/MathML" book-type="monograph" dtd-version="2.3" xml:lang="ru"> <front> <book-meta>  <book-id book-id-type="isbn">978-5-907830-04-2</book-id>   <book-id pub-id-type="doi">10.31483/a-10568</book-id>   <title-group>  <book-title xml:lang="ru">Современные вопросы  педагогики и психологии: теоретико-методологические подходы и практические результаты исследований</book-title>   <trans-title-group xml:lang="en"> <trans-title>Modern issues of pedagogy and psychology: theoretical and methodological approaches and practical research results</trans-title> </trans-title-group>  </title-group>  <description xml:lang="ru"> <p>В монографии представлены научно-исследовательские материалы известных и начинающих ученых, объединенные основной темой современного видения путей развития педагогики и психологии.
Книга предназначена для педагогов и психологов, а также может быть полезна студентам, бакалаврам, магистрантам, аспирантам и всем тем, кого интересуют актуальные вопросы педагогики и психологии.</p> </description>   <contrib-group>  <contrib contrib-type="editor" id="editor1">  <contrib-id contrib-id-type="role">chief_editor</contrib-id>    <name-alternatives>  <name name-style="eastern" xml:lang="ru"> <surname>Мурзина</surname> <given-names>Жанна Владимировна</given-names> </name>   <name name-style="western" xml:lang="en"> <surname>Murzina</surname> <given-names>Zhanna Vladimirovna</given-names> </name>  </name-alternatives>  <contrib-id contrib-id-type="orcid">https://orcid.org/0000-0003-1322-0515</contrib-id> <email xlink:type="simple">jinnist@yandex.ru</email> </contrib>  <contrib contrib-type="editor" id="editor2">    <name-alternatives>  <name name-style="eastern" xml:lang="ru"> <surname>Егорова</surname> <given-names>Анна Семёновна</given-names> </name>   <name name-style="western" xml:lang="en"> <surname>Egorova</surname> <given-names>Anna Semenovna</given-names> </name>  </name-alternatives>  <contrib-id contrib-id-type="orcid">https://orcid.org/0000-0002-3603-171X</contrib-id> <email xlink:type="simple">annaerenar@mail.ru</email> </contrib>  </contrib-group>     <publisher> <publisher-name>ИД «Среда»</publisher-name> </publisher>    <pub-date pub-type="collection"> <year>2024</year> </pub-date>    <permissions> <copyright-statement>Copyright &#x00A9; Миронова Н. Г., 2024</copyright-statement> <copyright-year>2024</copyright-year> <license license-type="open-access" xlink:href="https://creativecommons.org/licenses/by/4.0/" xlink:type="simple"> <license-p>This work is licensed under a Creative Commons Attribution 4.0 License.</license-p> </license> </permissions>  </book-meta> <book-part book-part-type="book-part"> <book-part-meta>  <book-id pub-id-type="doi">10.31483/r-109589</book-id>   <book-id custom-type="publisher-id" pub-id-type="custom">109589</book-id> <title-group>  <chapter-title xml:lang="ru">Когнитивные искажения нейросетевых моделей и проблема доверия синтетическому «знанию»</chapter-title>   <trans-title-group xml:lang="en"> <trans-title>Problems of Bias and Opacity of Neural Network Models</trans-title> </trans-title-group>  </title-group>  <contrib-group>   <contrib contrib-type="author" id="author1"> <contrib-id contrib-id-type="orcid">https://orcid.org/0000-0003-0516-4429</contrib-id>  <name-alternatives>  <name name-style="eastern" xml:lang="ru"> <surname>Миронова</surname> <given-names>Наталия Геннадьевна</given-names> </name>   <name name-style="western" xml:lang="en"> <surname>Mironova</surname> <given-names>Natalia Gennadevna</given-names> </name>   </name-alternatives>  <email xlink:type="simple">om_aks@mail.ru</email> <xref ref-type="aff" rid="aff1"/> </contrib>   <aff-alternatives id="aff1">   <aff xml:lang="ru">  <institution-wrap> <institution-id institution-id-type="ror">04gr31p94</institution-id> <institution>Институт информатики, математики и робототехники ФГБОУ ВО «Уфимский университет науки и технологий»</institution> </institution-wrap>   <country>Россия</country> </aff>    <aff xml:lang="en">  <institution-wrap> <institution-id institution-id-type="ror">04gr31p94</institution-id> <institution>Institute of History and Public Administration of FSBEI of HE “Bashkir State University”</institution> </institution-wrap>   <country>Russia</country> </aff>   </aff-alternatives>  </contrib-group>   <fpage>114</fpage> <lpage>130</lpage>   <abstract xml:lang="ru"> <p>в последние десятилетия специалисты в области конгитивной психологии и эпистемологии описали порядка двухсот искажений, присущих человеческому мышлению. Активно создаваемые и внедряемые в социальную, в т.ч. образовательную, практику системы на основе моделей искусственного интеллекта проявляют аналогичные человеческому мышлению характеристики, в т.ч. когнитивные дефекты. В главе анализируются некоторые когнитивные искажения, присущие, по мнению автора, моделям искусственного интеллекта, в частности большим генеративным нейросетевым моделям.</p> </abstract>      <trans-abstract xml:lang="en"> <p>in recent decades, experts in the field of cognitive psychology and epistemology have described about two hundred distortions inherent in human thinking. Systems based on artificial intelligence models that are actively being created and introduced into social practice exhibit characteristics similar to human thinking, incl. cognitive defects. The chapter analyzes some cognitive distortions that, according to the author, are inherent in artificial intelligence models, in particular large generative neural network models.</p> </trans-abstract>       <kwd-group xml:lang="ru">  <kwd>информационная безопасность</kwd>  <kwd>философские проблемы искусственного интеллекта</kwd>  <kwd>нейросетевые модели</kwd>  </kwd-group>    <kwd-group xml:lang="en">  <kwd>information security</kwd>  <kwd>philosophical problems of artificial intelligence</kwd>  <kwd>neural network models</kwd>  </kwd-group>      </book-part-meta> </book-part> </front>  <back> <ref-list> <title>References</title>  <ref id="ref1"> <label>1</label> <citation-alternatives>  <mixed-citation xml:lang="ru">Открытое письмо «Приостановить гигантские эксперименты с искусственным интеллектом» / колл. авторов. [Электронный ресурс]. – Режим доступа: https://futureoflife.org/open-letter/pause-giant-ai-experiments/ (дата обращения: 20.09.2023).</mixed-citation>    </citation-alternatives> <element-citation publication-type="web">   <article-title>Открытое письмо «Приостановить гигантские эксперименты с искусственным интеллектом»</article-title>         <ext-link ext-link-type="uri">https://futureoflife.org/open-letter/pause-giant-ai-experiments/</ext-link>      </element-citation> </ref>  <ref id="ref2"> <label>2</label> <citation-alternatives>  <mixed-citation xml:lang="ru">Белоус М. Как не поддаться на обман ChatGPT и как обмануть его самому / М. Белоус [Электронный ресурс]. – Режим доступа: https://3dnews.ru/1084679/kak-obmanut-chatgpt-i-ne-poddatsya-na-ego-obman (дата обращения: 20.09.2023).</mixed-citation>    </citation-alternatives> <element-citation publication-type="web">  <person-group person-group-type="author">  <name> <surname>Белоус</surname> <given-names>М.</given-names> </name>  </person-group>   <article-title>Как не поддаться на обман ChatGPT и как обмануть его самому</article-title>         <ext-link ext-link-type="uri">https://3dnews.ru/1084679/kak-obmanut-chatgpt-i-ne-poddatsya-na-ego-obman</ext-link>      </element-citation> </ref>  <ref id="ref3"> <label>3</label> <citation-alternatives>  <mixed-citation xml:lang="ru">Мец Кейд Why Do A.I. Chatbots Tell Lies and Act Weird? Look in the Mirror [Electronic resource]. – Access mode:  https://www.nytimes.com/2023/02/26/technology/ai-chatbot-information-truth.html?action=click&amp;pgtype=Article&amp;state=default&amp;module=styln-artificial-intelligence&amp;variant=show&amp;region=BELOW_MAIN_CONTENT&amp;block=storyline_flex_guide_recirc (дата обращения: 30.06.2023).</mixed-citation>    </citation-alternatives> <element-citation publication-type="web">   <article-title>Why Do A.I. Chatbots Tell Lies and Act Weird? Look in the Mirror </article-title>         <ext-link ext-link-type="uri">https://www.nytimes.com/2023/02/26/technology/ai-chatbot-information-truth.html?action=click&amp;pgtype=Article&amp;state=default&amp;module=styln-artificial-intelligence&amp;variant=show&amp;region=BELOW_MAIN_CONTENT&amp;block=storyline_flex_guide_recirc</ext-link>      </element-citation> </ref>  <ref id="ref4"> <label>4</label> <citation-alternatives>  <mixed-citation xml:lang="ru">Павлова Д. Тайны «бога из машины». Интервью «Завтра.ру» Константина Воронцова, профессора РАН, заведующего кафедрой машинного обучения и цифровой гуманитаристики МФТИ [Электронный ресурс]. – Режим доступа: https://zanauku.mipt.ru/2022/06/09/tajny-boga-iz-mashiny/ (дата обращения: 09.06.2022).</mixed-citation>    </citation-alternatives> <element-citation publication-type="web">  <person-group person-group-type="author">  <name> <surname>Павлова</surname> <given-names>Д.</given-names> </name>  </person-group>   <article-title>Тайны «бога из машины». Интервью «Завтра.ру» Константина Воронцова, профессора РАН, заведующего кафедрой машинного обучения и цифровой гуманитаристики МФТИ</article-title>         <ext-link ext-link-type="uri">https://zanauku.mipt.ru/2022/06/09/tajny-boga-iz-mashiny/</ext-link>      </element-citation> </ref>  <ref id="ref5"> <label>5</label> <citation-alternatives>  <mixed-citation xml:lang="ru">Агера-и-Аркас Б. Искусственные нейронные сети делают шаги к сознанию / Б. Агера-и-Аркас // The Economist. – 13.06.2022 [Электронный ресурс]. – Режим доступа: www.tinyurl.com/ymhk37uu (дата обращения: 09.06.2022).</mixed-citation>    </citation-alternatives> <element-citation publication-type="web">  <person-group person-group-type="author">  <name> <surname>Агера-и-Аркас</surname> <given-names>Б.</given-names> </name>  </person-group>   <article-title>Искусственные нейронные сети делают шаги к сознанию</article-title> <source>The Economist</source> <year>2022</year>       <ext-link ext-link-type="uri">www.tinyurl.com/ymhk37uu</ext-link>      </element-citation> </ref>  <ref id="ref6"> <label>6</label> <citation-alternatives>  <mixed-citation xml:lang="ru">Бендер Э.М. Об опасностях стохастических попугаев: могут ли языковые модели быть слишком большими? / Э.М. Бендер, Т. Гебру, А. Макмиллан-Мейджор // Материалы конференции ACM 2021 г. по вопросам справедливости, подотчетности и прозрачности. – 2021. – С. 610–623.</mixed-citation>    </citation-alternatives> <element-citation publication-type="other">  <person-group person-group-type="author">  <name> <surname>Бендер</surname> <given-names>Э. М.</given-names> </name>  <name> <surname>Гебру</surname> <given-names>Т.</given-names> </name>  <name> <surname>Макмиллан-Мейджор</surname> <given-names>А.</given-names> </name>  </person-group>   <article-title>Об опасностях стохастических попугаев: могут ли языковые модели быть слишком большими?</article-title>     <fpage>610</fpage> <lpage>623</lpage>         </element-citation> </ref>  <ref id="ref7"> <label>7</label> <citation-alternatives>  <mixed-citation xml:lang="ru">Marcus G. Nonsense on Stilts. No, LaMDA is not sentient. Not even slightly [Electronic resource]. – Access mode: https://garymarcus.substack.com/p/nonsense-on-stilts (дата обращения: 30.06.2023).</mixed-citation>    </citation-alternatives> <element-citation publication-type="web">  <person-group person-group-type="author">  <name> <surname>Marcus</surname> <given-names>G.</given-names> </name>  </person-group>   <article-title>Nonsense on Stilts. No, LaMDA is not sentient. Not even slightly</article-title>         <ext-link ext-link-type="uri">https://garymarcus.substack.com/p/nonsense-on-stilts</ext-link>      </element-citation> </ref>  <ref id="ref8"> <label>8</label> <citation-alternatives>  <mixed-citation xml:lang="ru">Миклашевская А. Искусственный интеллект заговорил по-своему / А. Миклашевская [Электронный ресурс]. – Режим доступа: https://www.kommersant.ru/doc/3372761  (дата обращения: 30.06.2023).</mixed-citation>    </citation-alternatives> <element-citation publication-type="web">  <person-group person-group-type="author">  <name> <surname>Миклашевская</surname> <given-names>А.</given-names> </name>  </person-group>   <article-title>Искусственный интеллект заговорил по-своему</article-title>         <ext-link ext-link-type="uri">https://www.kommersant.ru/doc/3372761</ext-link>      </element-citation> </ref>  <ref id="ref9"> <label>9</label> <citation-alternatives>  <mixed-citation xml:lang="ru">Нейросеть создала собственный язык, который ученые не могут расшифровать [Электронный ресурс]. – Режим доступа: https://www.ixbt.com/news/2022/06/03/nejroset-sozdala--sobstvennyj-jazyk-kotoryj-uchenye-ne-mogut-rasshifrovat.html (дата обращения: 30.06.2023).</mixed-citation>    </citation-alternatives> <element-citation publication-type="web">   <article-title>Нейросеть создала собственный язык, который ученые не могут расшифровать</article-title>         <ext-link ext-link-type="uri">https://www.ixbt.com/news/2022/06/03/nejroset-sozdala--sobstvennyj-jazyk-kotoryj-uchenye-ne-mogut-rasshifrovat.html</ext-link>      </element-citation> </ref>  <ref id="ref10"> <label>10</label> <citation-alternatives>  <mixed-citation xml:lang="ru">Миронова Н.Г. Глава 5. Безопасность использования когнитивных информационных технологий принятия решений / Н.Г. Миронова // Экономика и право. – Чебоксары: Среда, 2021. – С. 112–131 [Электронный ресурс]. – Режим доступа: https://elibrary.ru/item.asp?id=46291391 (дата обращения: 30.11.2023). EDN TAXFFN</mixed-citation>    </citation-alternatives> <element-citation publication-type="web">  <person-group person-group-type="author">  <name> <surname>Миронова</surname> <given-names>Н. Г.</given-names> </name>  </person-group>   <article-title>Глава 5. Безопасность использования когнитивных информационных технологий принятия решений</article-title>     <fpage>112</fpage> <lpage>131</lpage>  <pub-id pub-id-type="custom" custom-type="edn">TAXFFN</pub-id> <ext-link ext-link-type="uri">https://elibrary.ru/item.asp?id=46291391</ext-link>      <publisher-loc>Чебоксары</publisher-loc> <publisher-name>Среда</publisher-name>  </element-citation> </ref>  </ref-list> </back>  </book>