Список публикаций по ключевому слову: «числа с плавающей точкой»
-
Численные методы и проблемы точности арифметики с плавающей точкой в современных вычислительных системах
Статья в сборнике трудов конференции
Актуальные вопросы гуманитарных и социальных наук- Авторы:
- Заруцкая Татьяна Сергеевна, Макарова Елена Леонидовна
- Рубрика:
- Тенденции развития цифрового образования
- Аннотация:
- В статье рассматриваются вопросы принципов представления чисел с плавающей точкой в современных вычислительных системах, а также анализируются основные проблемы, возникающие при выполнении арифметических операций над ними. Особое внимание уделяется причинам накопления вычислительных погрешностей, эффектам округления, катастрофическому сокращению и вопросам численной устойчивости алгоритмов. Теоретические положения подкреплены практическими примерами программной реализации на языке Python, что позволяет продемонстрировать влияние особенностей машинной арифметики на результаты вычислений.
- Ключевые слова:
- численные методы, вычислительные системы, числа с плавающей точкой, вычислительные погрешности, ошибки округления, численная устойчивость, аппроксимация вещественных чисел, арифметические операции, представление чисел, алгоритм Кэхена, точность вычислений