Решение. В главе 1 указано, что голосовые сигналы могут быть преобразованы в двоичные данные путем деления сигнала 8000 раз в секунду и описания каждого отрезка

Глава 2

2.1

В главе 1 указано, что голосовые сигналы могут быть преобразованы в двоичные данные путем деления сигнала 8000 раз в секунду и описания каждого отрезка (сэмпла) по 8 бит, получая поток 64 кб/с. Затем сказано, что современные кодеки могут обеспечить передачу голоса качества, сопоставимого с телефонной линией при потоке 6-16 кб/с. Если бы ваша цель состояла в том, чтобы просто воспроизвести слова из речи понятно, не заботясь о распознавании говорящего, его интонации, и т.д., сделайте оценку того, сколько кб/с потребуется. Объясните ваши рассуждения. (примечание: не существует «правильного ответа, так как вопрос поставлен слишком расплывчато. Задача вопроса – освоить цели и подходы).

Решение:

Ниже приводится один из вариантов решения. Это определенно не единственный путь – самое важное в этом вопросе это понять, что мы абстрагируемся от сложных физических явлений, используя упрощенные модели, и выбор этих моделей диктуется нашей целью.

Речевые пары (кодер/декодер) стараются сохранить не только узнаваемость слова, но и множество информации о вещателе, такой как тембр голоса и интонацию. Если мы не заботимся о любых специфических характеристиках речи, то проблема заключается лишь в том, чтобы закодировать текст, который произносит вещатель. Следовательно, чтобы определить скорость (бит/с), нужно оценить значение двух величин. Первая – это скорость, в буквах в секунду, которой достигает средний говорящий. Во вторых, нужно оценить среднее число бит, необходимое для записи буквы.

Грубые оценки этих величин могут быть сделаны при чтении любого текста (на английском языке) с секундомером, получается примерно 15-20 букв в секунду. Простое кодирование 26ти английских букв и пробела потребует бит на английскую букву. Исследование более совершенных моделей зависимостей в английских буквах показали, что возможно сократить «вес» одной буквы до 1.34 бита. Таким образом, возможно создать систему кодирования, которая позволит достичь скорости передачи речевой информации около 20 бит/с (15букв в секунду, каждая из которых закодирована 1.34 бита), что значительно ниже, чем даже у самых лучших современных кодеков.

2.2

Пусть V и W – дискретные случайные величины, определенные на каком-либо вероятностном пространстве с совместной функцией вероятности pV W (v, w).

(a) Докажите, что . Не предполагайте независимость.

(b) Докажите, что если V и W независимые случайные величины, то .

c) Предположим, что V и W зависимы. Приведите пример, в котором и другой пример, в котором .

d) Предположим, что V и W независимы и пусть и – это дисперсии V и W соответственно. Покажите, что дисперсия V + W задается следующим выражением:

Решение

(a) V+W – это произвольная величина, и её мат ожидание, по определению равно:

(b) Еще раз, по принципу предыдущей задачи:

(c) Чтобы найти случай, в котором , сначала попробуем самый простой вид примера, где V и W являются простыми с общей функцией вероятности:

Очевидно, что V и W зависимы. Также в то время как и .

Второй случай требует некоторых экспериментов. Подход заключается в выборе совместного распределения такого, чтобы и . Простое решение получается при использовании следующей функции вероятности:

Снова, V и W зависимы. Очевидно, что . Также . Таким образом, .

(d) .

2.3

Условие:

1. Для огромной целой случайной величины N показать, что E[N ] = Σ_n>0 Pr(N ≥ n)

2. Показать удобным вам способом, что для огромной независимой случайной величины X имеет место равенство E(X) = Pr(X ≥ a)da

3. Вывести неравенство Маркова, которое заключается в том, что для любой огромной случайной величины выполняется неравенство Pr(X≥a)≤ E[X]/a. Подсказка: рассмотрите Pr(X>a) как функцию от a и сравните прямоугольник со сторонами Pr(X>a) и a с областью отвечающей за E[X].

4. Вывести неравенство Чебышова, которое заключается в том, что для любой огромной случайной величины с конечным мат. ожиданием E[X] и конечной дисперсией σ_Y ² выполняется неравенство Pr(|Y-E[Y]| ≥ b) ≤ σ_Y ²/ b². Подсказка: воспользуйтесь тем, что (Y-E[Y])² = X.

Решение:

1. Это выражение часто используется для определения мат. ожидания целой случайной величины. Рассмотрим Pr(N ≥ n) как p_n + p _n+1 + p _n+2 + … Тогда Σ_n>0 Pr(N ≥ n) = (p₁ + p₂ + p₃ + …) + (p₂ + p₃ + …) + (p₃ + …) + … = Σ_n>0 np_n = E[N].

2. Рассматривая интеграл как предел суммы, получаем

3.

4. Воспользуясь подсказкой получим, что

Pr{ (Y-E[Y])² ≥ a } ≤ E[ (Y-E[Y])² ]/a = σ_Y ² / a

Равенство выполняется при b = √a

2.4

Пусть X₁, X₂,..., X_n,... -последовательность независимых одинаково распределенных (Н.О.Р.) аналоговых случайных величин с общей плотностью вероятности функции f_x(х). Обратим внимание, что Pr {X_n = α} = 0 для всех α и Pr {X_n = X_m} = 0 для m ≠ n.

(а) Найдите Pr {X₁ ≤ X₂}. [Дайте числовой ответ, а не выражение; вычисление не требуется. И объяснение одной или двух линий должно быть достаточным.]

(б) Найдите Pr {X₁ ≤ X₂, X₁ ≤ X₃} (другими словами, найдите вероятность того, что X₁ является наименьшим из {X₁, X₂, X₃}). [Опять же, подумайте - не вычисляйте.]

(в) Пусть случайная величина N является индексом первой случайной величины в последовательности меньшей, чем X₁, то есть, Pr {N = n} = Pr {X₁ ≤ X₂, X₁ ≤ X₃; · · ·; X₁ ≤ X_n-1; X₁> X_n}. Найдите Pr {N ≥ n} как функцию от n. Подсказка: обобщите части (б).

(г) Докажите, что E [N] = ∞. Подсказка: используйте часть (а) Упражнения 2.3.

(е) Теперь предположим, что X₁, X₂... представляет собой последовательность независимых одинаково распределенных случайных величин каждая из которых взята из конечного набора значений. Объясните, почему нельзя найти Pr {X₁ ≤ X₂}, не зная функцию вероятности. Объясните, почему E[N] = ∞.