Теория информации

Краткое содержание учебной дисциплины, модуля / Brief summary

Целью учебной дисциплины «Теория информации» является подготовка специалистов-математиков, понимающих основные принципы теории информации, владеющих методами этой теории и способных применить свои знания в области теории информации к решению практических инженерных задач. 

Задачи учебной дисциплины:

1.Познакомить студентов с основными понятиями и результатами теории информации.

2.Изучить и проанализировать связи теории информации и теории вероятностей.

3.Освоить алгоритмы и методы эффективного кодирования и передачи информации.

4.Привить студентам навыки составления математических моделей, которые наилучшим образом соответствуют конкретной прикладной задаче.

The goal of the «Information Theory» course is to train mathematicians who understand the fundamental principles of information theory, are proficient in its methods, and are able to apply their knowledge of information theory to solving practical engineering problems.

Objectives of the course:

1. To introduce students to the basic concepts and results of information theory.

2. To study and analyze the relationships between information theory and probability theory.

3. To master algorithms and methods for efficient coding and transmission of information.

4. To instill in students the skills to construct mathematical models that best suit a specific applied problem.

Формируемые компетенции / The formed competences

Базовые профессиональные компетенции: 

– Использовать понятия и методы линейной алгебры, вещественного и функционального анализа, теории вероятностей, и применять их для изучения моделей окружающего мира;

– Применять основные алгебраические и геометрические понятия, конструкции и методы для решения теоретических и прикладных математических задач.

Специализированные компетенции:

– Применять ключевые методы теории информации и теории кодирования для надежной передачи и защиты

Basic professional competencies:

– Use concepts and methods of linear algebra, real and functional analysis, and probability theory, and apply them to the study of models of the surrounding world;

–Apply basic algebraic and geometric concepts, constructions, and methods to solve theoretical and applied mathematical problems.

Specialized competencies:

– Apply key methods of information theory and coding theory to ensure secure transmission and protection

Результаты обучения (знать, уметь, владеть) / Learning outcomes (know, can, be able)

знать: 

– основные понятия и методы теории информации: источник информации, условную и безусловную энтропии, способы вычисления энтропии, меры для измерения информации;

– количественное определение информации, скорость создания информации;

– определения и свойства каналов связи с математической точки зрения;

– методы теории кодирования, защитные свойства разных кодов;

– базовые понятия квантовой теории информации: кубит, запутанность, квантовый канал связи.

уметь: 

– оценивать количество информации и энтропию источника;

– вычислять пропускную способность канала связи;

– применять методы эффективной передачи информации с помощью кодов Шеннона-Фано и Хаффмена;

– применять методы теории информации для решения логических задач;

– доказывать основные теоремы теории информации;

иметь навык:

– применения теории информации к задачам оптимизации памяти для надежного хранения, защиты и передачи информации разного типа

know:

– Basic concepts and methods of information theory: information source, conditional and unconditional entropy, methods for calculating entropy, and measures of information;

– Quantitative definition of information, speed of information creation;

– Definitions and properties of communication channels from a mathematical perspective;

– Methods of coding theory, security properties of different codes;

– Basic concepts of quantum information theory: qubit, entanglement, and quantum

be able to:

– Estimate the amount of information and the entropy of a source;

– Calculate the capacity of a communication channel;

– Apply methods for efficient information transmission using Shannon-Fano and Huffman codes;

– Apply information theory methods to solve logical problems;

– Prove the fundamental theorems of information theory;

have the following skills:

–application of information theory to memory optimization problems for reliable storage, protection and transmission of various types of information

Семестр изучения учебной дисциплины, модуля / Semester of study

6

6

Пререквизиты / Prerequisites

«Алгебра и теория чисел», «Математический анализ», «Дифференциальные уравнения», «Теория вероятностей и математическая статистика»

«Algebra and Number Theory», «Mathematical Analysis», «Differential Equations», «Probability Theory and Mathematical Statistics»

Трудоемкость в зачетных единицах (кредитах) / Credit units

3

3

Количество аудиторных часов и часов самостоятельной работы / Academic hour of students’ class work, 

hours of self-directed learning

всего 116 часов, в том числе 68 аудиторных часа, из них: лекции – 34 часа, лабораторные занятия – 28 часов, управляемая самостоятельная работа – 6 часов.

total 108 hours, including 68 classroom hours, including: lectures – 34 hours, laboratory classes – 28 hours, guided independent work – 6 hours.

Требования и формы текущей и промежуточной аттестации / Requirements and forms of current and interim certification

зачет

test