Математические модели. Классификация порядков роста. Теория алгоритмов. Сортировка выбором презентация

Математические модели

Математические модели для времени выполнения Общее время выполнения. Сумма: стоимость каждой операции * частоту, для всех операций Анализ программ нужно производить на определенном наборе операций Стоимость зависит от компьютера и компилятора Частота зависит от алгоритма и входных данных

Стоимость основных операций

Стоимость основных операций Ошибка новичков: неправильная оценка конкатенации строк

Пример: 1-Sum Подсчет количества инструкций, как функции от N.

Пример: 2-Sum Подсчет количества инструкций, как функции от N.

Упрощение вычислений

Упрощение 1: модель стоимости Модель стоимости. Использовать некоторые основные операции для приближенного расчета времени выполнения.

Упрощение 2: тильда-нотация Оценить время выполнение (или память), как функцию от входных данных N Игнорировать младшие члены Когда N велико, младшие члены незначительны Когда N мало, мы не о чем не заботимся

Упрощение 2: тильда-нотация Оценить время выполнение (или память), как функцию от входных данных N Игнорировать младшие члены Когда N велико, младшие члены незначительны Когда N мало, мы не о чем не заботимся

Пример: 2-Sum Нижняя оценка. Использовать модель стоимости и тильда-нотацию для упрощение вычислений

Пример: 3-Sum Нижняя оценка. Использовать модель стоимости и тильда-нотацию для упрощение вычислений

Оценка дискретной суммы Как оценить дискретную сумму? Средствами дискретной математики. Заменить сумму на определенный интеграл и посчитать

Математическая модель для времени выполнения В принципе, всегда возможно построить точную математическую модель. На практике Формула может быть сложной Могут понадобиться дополнительные математические знания Точные модели лучше оставить экспертам

Классификация порядков роста

Общая классификация порядков роста Малое число функций описывающих порядок роста основных алгоритмов 1, log N, N, Nlog N, N2, N3 и 2N

Общая классификация порядков роста

Практическое применение порядков роста Нижняя оценка. Нужны линейные или линейно-логарифмические алгоритмы, чтобы идти в ногу с законом Мура.

Бинарный поиск Цель. Найти индекс ключа в отсортированном массиве Бинарный поиск Ключ меньше — идем влево Ключ больше — идем вправо Равен — возвращаем результат

Бинарный поиск: реализация Впервые бинарный поиск был опубликован в 1946; первая безошибочная реализация в 1962 Ошибка в Java.binarySearch() найдена в 2006

Бинарный поиск: математический анализ Предположение. Бинарный поиск использует 1 + lg N сравнений ключа в отсортированном массиве N T(N) количество сравнений ключа в отсортированном массиве размером <= N T(N) <= T(N / 2) + 1, для N > 1, с T(1) = 1

N2log N алгоритм для 3-Sum Алгоритм основанный на сортировке Шаг 1: Сортировка N чисел Шаг 2: Для каждой пары чисел a[i] и a[j] сделать бинарный поиск для -(a[i] + a[j]) Анализ. Порядок роста N2log N Шаг 1: N2 сортировка вставками Шаг 2: N2log N бинарный поиск

Сравнение программ Гипотеза. Основанный на сортировке 3-Sum алгоритм N2log N однозначно быстрее метода грубой силы N3

Теория алгоритмов

Типы анализа Лучший случай. Нижняя граница по стоимости Определяется самыми «простыми» входными данными Цель для любых входных данных Худший случай. Верхняя граница Определяется «самыми сложными» входными данными Предоставляет гарантии для всех возможных входных данных Средний случай. Ожидаемая стоимость для случайных входных данных Нужна модель для случайных входных данных Предоставляет возможность предсказывать производительность.

Типы анализа Лучший случай. Нижняя граница по стоимости Худший случай. Верхняя граница Средний случай. Ожидаемая стоимость для случайных входных данных Реальные входные данные могут не соответствовать модели Нужно понимать, что может быть на входе, чтобы эффективно обрабатывать данные Подход 1: строить модель для худшего случая Подход 2: строить модель для случайных данных, в зависимости от вероятностных характеристик (если они даны)

Пример: два алгоритма сортировки Быстрая сортировка Количество сравнений в худшем случае: N2 O(N2) Сортировка слиянием Количество сравнений в худшем случае: N logN O(N logN) Известно, что на практике быстрая сортировка в два раза быстрее и использует в два раза меньше памяти, чем сортировка слиянием. Не используйте O для предсказания производительности и сравнения алгоритмов

Сортировка выбором

Сортировка выбором На итерации i найти минимальный оставшийся элемент с индексом min Поменять местами a[i] и a[min] Видео 1

Сортировка выбором Алгоритм. Сканирование идет слева направо Элементы слева от стрелки отсортированы и не меняются Нет элемента справа от стрелки, который был бы меньше элемента слева от стрелки

Сортировка выбором: внутренний цикл

Сортировка выбором: реализация на Java

Сортировка выбором: математический анализ Утверждение. Сортировка выбором использует (N-1) + (N-2) + … + 1 + 0 ~ N2/2 сравнений и N перестановок