The Combinatorial Analysis of n-Gram Dictionaries, Coverage and Information Entropy based on the Web Corpus of English

?

The Combinatorial Analysis of n-Gram Dictionaries, Coverage and Information Entropy based on the Web Corpus of English

Baltic Journal of Modern Computing. 2021. Vol. 9. No. 3. P. 363–376.

We research n-gram dictionaries and estimate its coverage and entropy based on the web corpus of English. We consider a method for estimating the coverage of empirically gen- erated dictionaries and an approach to address the disadvantage of low coverage. Based on the ideas of Kolmogorov’s combinatorial approach, we estimate the n-gram entropy of the English language and use mathematical extrapolation to approximate the marginal entropy. In addition, we approximate the number of all possible legal n-grams in the English language for high order of n-grams.

Научное направление: Математика Компьютерные науки

Приоритетные направления: компьютерно-математическое

Язык: английский

DOI

Текст на другом сайте

Modulation Recognition for Industrial Internet of Things Communication Signals Under Few-Shot Conditions Based on Attention Mechanism and Relation Network

Hualin M., Jie Z., Jerome Y. и др., Journal of Internet Technology 2026 Vol. 27 No. 3 P. 367–382

Добавлено: 3 июля 2026 г.

Кодовые конструкции на базе обобщенных каскадных кодов для систем связи, использующих прием на основе порядковых статистик

Осипов Д. С., Информационно-управляющие системы 2026 № 3 С. 49–62

Введение: во многих проектируемых в настоящее время и перспективных системах связи методы оценивания характеристик канала и управления мощностью сигнала, разработанные для систем связи предыдущих поколений, не могут обеспечить требуемую точность оценивания и выравнивания мощности сигналов на приемном конце. Одним из вариантов решения этой проблемы является использование методов приема на основе порядковых статистик, которые не требуют управления мощностью ...

Добавлено: 3 июля 2026 г.

Graph Games and Logic Design

Springer, 2026.

Добавлено: 30 июня 2026 г.

On Ω-stable 3-diffeomorphism with a solid or thickened surfaced basic set

Починка О. В., Баринова М. К., Journal of Geometry and Physics 2026 Vol. 228 P. 1–8

Добавлено: 30 июня 2026 г.

Почти пустые симплексы и полиэдры Клейна

Герман О. Н., Илларионов А. А., Известия РАН. Серия математическая 2026 Т. 90 № 3 С. 3–18

Пусть симплекс с целочисленными вершинами - содержащий ровно одну целочисленную точку, отличную от своих вершин. В работе доказывается, что если точка находится во внутренности симплекса или в относительной внутренности некоторой гиперграни симплекса, то объем симплекса ограничен величиной, зависящей только от размерности, в противном случае объем симплекса может быть сколь угодно большим. Этот результат применяется для вывода асимптотической формулы для среднего числа вершин полиэдров ...

Добавлено: 29 июня 2026 г.

The 12th International Conference on Information Technology and Quantitative Management (ITQM 2025)

Netherlands: ScienceDirect, 2025.

Добавлено: 28 июня 2026 г.

Object-centric process management: A research manifesto

Seidel A., Weske M., Montali M. и др., Information Systems 2026 Vol. 141 Article 102728

Добавлено: 27 июня 2026 г.

2024 26th International Conference on Digital Signal Processing and its Applications (DSPA)

IEEE, 2024.

Добавлено: 27 июня 2026 г.

Growth in noncommutative algebras and entropy in derived categories

Пионтковский Д. И., / Series arXiv "math". 2026.

Добавлено: 23 июня 2026 г.

Multilinear nilalgebras and the Jacobian theorem

Пионтковский Д. И., / Series arXiv "math". 2025.

Добавлено: 23 июня 2026 г.

Coverage of Agricultural Areas by a Group of Unmanned Aerial Vehicles Considering Wind Load and Energy Consumption Constraints

Faizullin R., Mustafin M., Svinin M. и др., , in: 2025 9th International Conference on Information, Control, and Communication Technologies (ICCT-2025).: IEEE, 2026. P. 1–4.

Добавлено: 23 июня 2026 г.

ML-based Fast Simulation of FARICH Responses

Шипилов Ф. А., Barnyakov A., Ivanov A. и др., / Series Physics "arxiv.org". 2026.

Добавлено: 19 мая 2026 г.

Natural hazard database from Internet publications: text mining with a large language model

Деркачева А. А., Сакиркина М. А., Краев Г. Н. и др., /. 2026.

Добавлено: 28 апреля 2026 г.

Algorithmic overlaps as thermodynamic variables: from local to cluster Monte Carlo dynamics in critical phenomena

Пиле Я. Э., Deng Y., Щур Л. Н., / Series arXiv "math". 2026. No. 2604.10254.

Добавлено: 20 апреля 2026 г.

Using predefined vector systems to speed up neural network multimillion class classification

Gabdullin N., Андросов И. А., / Series Computer Science "arxiv.org". 2026.

Добавлено: 2 апреля 2026 г.

Iterative Ricci-Foster Curvature Flow with GMM-Based Edge Pruning: A Novel Approach to Community Detection

Сорокин К. С., Бекетов М. Е., Онучин А. и др., / arxiv.org. Серия cs.SI "Social and Information Networks ". 2025.

Обнаружение сообществ в сложных сетях — фундаментальная проблема, открытая для новых подходов в различных научных областях. Мы представляем новый метод обнаружения сообществ, основанный на потоке Риччи на графах. Наша техника итеративно обновляет веса ребер (их метрические длины) в соответствии с их (комбинаторной) версией кривизны Риччи Фостера, вычисленной на основе эффективного расстояния сопротивления между узлами. Известно, ...

Добавлено: 15 января 2026 г.

Implementing Transport Coding in OMNeT++ for Message Delay Reduction

Петрованов И. С., Сергеев А. В., / Series Computer Science "arxiv.org". 2025. No. 2512.18332.

Добавлено: 24 декабря 2025 г.

Hessian-based lightweight neural network for brain vessel segmentation on a minimal training dataset

Меньшиков И. А., Бернадотт А. К., Елфимов Н. С., / Series arXie "Statistical mechanics". 2025.

Добавлено: 1 декабря 2025 г.

Эффективный алгоритм торговли на фондовом рынке: ретроспективный анализ, основанный на данных по S&P-500.

Рубчинский А. А., Чубарова Д. А., / Series WP7 "Математические методы анализа решений в экономике, бизнесе и политике". 2025. No. WP7/2025/01.

Добавлено: 9 ноября 2025 г.

Ситуационно-ориентированный метод размещения точек доступа и шлюзов внутри помещений при организации систем Интернета вещей

Эбрахим А., Иванов И. А., Али А., Информационные технологии 2025 Т. 31 № 4 С. 184–190

Обсуждается разработка метода оптимального размещения точек доступа и шлюзов внутри помещений с учетом мобильности конечных устройств. Предлагается метод, основанный на генетическом недоминируемом алгоритме сортировки II (NSGA-II) и методике определения порядка предпочтения по сходству с идеальным решением, а также приводится пример успешного использования метода в реальной ситуации. ...

Добавлено: 14 июня 2025 г.

Особенности решения задачи геометрического расположения сенсоров при мониторинге пространства.

Яцкин Д. В., Кочкаров А. А., Наукоемкие технологии 2016 Т. 17 № 9 С. 20–29

Описывается интерпретация задачи мониторинга пространства как задачи обнаружения целевого объекта в пределах некоторой области. Рассматриваются подзадачи, комплексное решение которых гарантирует решение исходной задачи. Формулируется задача поиска геометрического положения сенсоров. Задача приводится к дискретному виду, описываются алгоритмы ее решения в общем и в частном случае. На основании разработанных алгоритмов строится программная модель, которая находит и визуализирует ...

Добавлено: 7 марта 2025 г.

Метод Для Максимального Покрытия Беспроводной Сетью Внутри Помещений

Эбрахим А., Иванов И. А., Али А., В кн.: Инновационные, информационные и коммуникационные технологии. Сборник трудов XХ Международной научно-практической конференции. Москва, 2023.: М.: Ассоциация выпускников и сотрудников ВВИА им. проф. Жуковского, 2023. С. 422–425.

Статья посвящена разработке метода оптимального размещения точек доступа и шлюзов внутри помещений. В работе предлагается математическая модель оптимизации, основанная на генетическом недоминируемом алгоритме сортировки II, а также проводится сравнение полученных результатов работой профессионального программного обеспечения. ...

Добавлено: 6 апреля 2024 г.

Построение и анализ моделей русского языка в связи с исследованиями криптографических алгоритмов

Малашина А. Г., Лось А. Б., Чебышевский сборник 2022 Т. 23 № 2 С. 151–160

При исследовании криптографических качеств алгоритмов защиты информации важным моментом является построение теоретических и экспериментальных моделей источников сообщений. В данной статье проводится статистический анализ свойств лексических и n-граммных моделей русского языка на основе новостного текстового корпуса. Создан специализированный корпус из новостных статей последних лет политической направленности, отражающий узкую область употребления языка. Составлены словари токенов и n-грамм, ...

Добавлено: 27 сентября 2021 г.

Entropy analysis of n-grams and estimation of the number of meaningful language texts

Malashina A., , in: Entropy 2021: The Scientific Tool of the 21st Century. Conference Proceedings Book.: Porto: MDPI Open Access Publishing, 2021. P. 106–106.

Добавлено: 5 мая 2021 г.