GRAFICO DE BEC DEL 5 Y 11 Ejercicios del Capítulo 2
a) Cuál es la matriz P
b) Calcule las probabilidades de salida, P(b).
() ()
| | | | | |
c) Calcule las probabilidades del canal backward, P(a|b).
2.- Agente secreto 101 se comunica con sus fuentes de información por teléfono, por desgracia, en una lengua extranjera a través de una conexión ruidosa. Agente 101 hace preguntas que requieren sólo sí y ninguna respuesta de la fuente. Debido al ruido y la barrera del idioma, el Agente 101 escucha e interpreta la respuesta correcta sólo el 75% de las veces, ella no entiende la respuesta al 10% de las veces y que mal interpreta la respuesta del 15% de las veces. Antes de hacer la pregunta, Agente 101 espera que la respuesta de sí el 80% del tiempo. a) Dibuje el canal de comunicación que existe entre el Agente 101 y su fuente.
Si = 1, No = 0
Forward
|| || ||
b) Antes de escuchar la respuesta a la pregunta ¿qué es la incertidumbre media de la agente 101 en la respuesta?
c) Agente 101 interpreta la respuesta por teléfono, como no. ¿Cuál es su promedio de incertidumbre acerca de la respuesta? ¿Ella es más incierto o menos seguro de la respuesta dada a su interpretación de lo que escuchó? Explique!
2.- Agente secreto 101 se comunica con sus fuentes de información por teléfono, por desgracia, en una lengua extranjera a través de una conexión ruidosa. Agente 101 hace preguntas que requieren sólo sí y ninguna respuesta de la fuente. Debido al ruido y la barrera del idioma, el Agente 101 escucha e interpreta la respuesta correcta sólo el 75% de las veces, ella no entiende la respuesta al 10% de las veces y que mal interpreta la respuesta del 15% de las veces. Antes de hacer la pregunta, Agente 101 espera que la respuesta de sí el 80% del tiempo. a) Dibuje el canal de comunicación que existe entre el Agente 101 y su fuente.
Si = 1, No = 0
Forward
|| || ||
b) Antes de escuchar la respuesta a la pregunta ¿qué es la incertidumbre media de la agente 101 en la respuesta?
c) Agente 101 interpreta la respuesta por teléfono, como no. ¿Cuál es su promedio de incertidumbre acerca de la respuesta? ¿Ella es más incierto o menos seguro de la respuesta dada a su interpretación de lo que escuchó? Explique!
| | | | | d) El agente 101 ahora interpreta la respuesta por teléfono, como si. ¿Cuál es su promedio de incertidumbre acerca de la respuesta? ¿Ella es más incierto o menos seguro de la respuesta dada a su interpretación de lo que escuchó? Explicar y comparar esto con el caso anterior.
| | | | |
3.- Calcular la equivocación de A con respecto a B, H(A|B),Para el canal de comunicación de Qu. 2. Ahora calcula la información mutua de la canal I(A;B) = H(A)- H(A|B). ¿Qué se puede decir sobre el canal dado sus respuestas para Qu. 2 (c) y 2 (d)? Ahora verifique que I(A;B) = H(B)- H(B|A) mediante el cálculo de H(B) y H(B|A).
| | | | | | | | |
|
4.- Un amigo suyo acaba de ver los resultados del examen y ha llamado por teléfono para decirle que si ha pasado o no. Alas de la conexión telefónica es tan mala que si tu amigo dice "pase" que toman erradamente que para "quebrar" 3 de cada 10 veces, y si tu amigo dice "fallas" que toman erradamente que para "pasar" 1 de cada 10 veces. Antes de hablar con su amigo que eras un 60% seguros de que usted había pasado el examen. ¿Qué tan seguro está usted de haber aprobado el examen si usted escucha su amigo decir que ha pasado?
( | | )
Ahora tengo la seguridad de solo el 46% de haber pasado.
5.- Que es mejor “erasure” o “crossover”
a).- Considere la posibilidad de un canal de comunicación de fibra óptica con una
probabilidad de cruce de
y un canal móvil inalámbrico con cancelación probabilidad
de? . Calcular la información mutua asumiendo entradas equiprobables para ambos tipos de canales de comunicación. ¿Qué sistema proporciona más información para la misma tasa de error de bit?
Probabilidad
Con BSC
| | | |
| | | | Con BEC:
| | | | | | Erasure provee más información.
b).- Vamos a examinar el problema de otra manera. Considere la posibilidad de un canal de comunicación de fibra óptica con una probabilidad de cruce de y un canal móvil inalámbrico con cancelación probabilidad de . Supongamos entradas equiprobables y expresar la información mutua para el canal de fibra óptica como una función de y para el canal móvil inalámbrico como una función de . Calcule y para la misma información mutua de 0.95. ¿Qué canal puede salirse con una tasa de error de bit más alta y aún así proporcionar la misma cantidad de información mutua? Igual en BSC y BEC de 0.95 VER más alto=?
BEC
BSC
| | | | | |
BER más alta esta en BEC. BSC
| |
| | | | | | | 6.- Dado
,
7.- Considere el siguiente canal binario
y
. Encuentre
,
y
Calcular posibles
| | | | | | | | | | | | | | | ,
,
,
,
y
con las menores dificultades
| | | 8.- Algunas preguntas rápidas. (a) Pruebe que si un BSC es corto (como ejemplo, todas las salidas estan las tierras a 0) entonces no proviene información acerca de la e ntrada.
| |
Se tiene las ecuaciones anteriores por estar cortocircuitado.
Al tener
los términos
, existen ambigüedades en las respuestas por lo tanto el
canal no provee información acerca de la entrada.
(b) Considere el siguiente estado: “Seguramente si tu sabes la información de la fuente, H(A), y la información del canal proviene por le canal, I(A;B), tu sabrás la información de la salida, H(B)?” Pruebe si este estado es verdadero o falso. Si no lo es, cuáles serían las condiciones para que puedar ser verdadero?
|| | | () () ()
Se conoce información de la fuente conocerá
Se tiene:
.
Además para tener Si se conoce
y la información provista por el canal
debe conocerse las
de la entrada.
se tienen las probabilidades
.
Se conocen por lo tanto
ya que son estos valores no se puede tener
Entonces podemos tener los valores de
Y con estos valores se conoce
()( )
| |
(c) Conceptualmente, que medio es
.
. Se
Significa que las perdidas por ruido en el canal equivalente al valor de información que se pierde desde la entrada del canal hasta la salida del mismo.
9.- Dibuje una muestra del canal con entradas y salidas, encuentre la expresión para la Información mutua, la capacidad del canal y la distribución de probabilidad de la entrada para lograr dicha capacidad para los siguientes casos:
Sin ruido, canal no determinístico.
Determinístico, con ruido.
Sin ruido, canal determinístico.
| | | | | | | | 10.- Se estableció que el valor mínimo de máximo de ?
es 0, es decir
. ¿Cuál es el valor
es mayor que puesto que no se puede perder más información de la que se tiene en la fuente. Por lo tanto toma como valor máximo en un canal sin ruido.
11.- Demostrar que la expresión de información mutua para un BEC puede simplificarse a:
12.- Considere el siguiente canal de errores-y-borrado
Encontrar todos los valores de p y q para el que el canal anterior: Información del canal
| || || || | | | | |
(a) Totalmente ambiguo (ejemplo
)
Y si
P y q cualquier valor puesto que de estos no depende que
(b) Sin ruido.
Si
.
.
P toma cualquier valor, por lo tanto 1 – p – q = 0. Porque no se puede tener dos entradas para una misma salida.
(c) Determinístico.
| Si
* +
= cualquier valor y
.
Si = cualquier valor y . Porque los símbolos de entrada son capaces de producir solo un símbolo.
13.- Canal AB tiene un canal matriz
Y es conectado al canal BC con matriz
La entrada ternaria A al sistema de canal con las siguientes estadísticas: y
Calcule Calcule
. La salida del canal AB es B y la salida de canal BC es C.
,
y
,
.
y
.
¿Que se puede decir acerca del canal BC?. Explique.
,
| | | | | | | | |
| | | | | | | |
| |
14.- La entrada a un BEC se repite como se muestra a continuación:
Dadas entradas binarias equiprobables que se derivan la expresión para demostrar que para:
y
(a) p = q = 1/2.
(b) p = 1/3. (c) P = 2/3.
15.- Agente 01 contacta con dos de sus fuentes por correo electrónico para algunos "sí" y "no" respuestas directas. La primera fuente que los contactos se s abe que es poco fiable y de dar respuestas equivocadas alrededor del 30% de las veces. De ahí que el Agente 01 se comunica con su segunda fuente para pedir la misma información. Por desgracia, la segunda fuente insiste en utilizar una codificación de correo electrónico no estándar y el Agente 01 se encuentra que sólo el 60% de las respuestas son inteligibles. (a) ¿Cuál es el promedio de incertidumbre Agente 01 tiene aproximadamente la entrada dado las respuestas que recibe de su primera fuente? Por lo tanto ¿cuál es la información mutua de la primera fuente?
|| || || || || | | | || | | | | | | | =
0.3602+0.52108=0.88128
0.3602+0.52108=0.88128
(b) ¿Cuál es la incertidumbre media Agente 01 tiene aproximadamente la entrada dado las respuestas que recibe de tanto la primera y segunda fuente? Por lo tanto ¿cuál es la información mutua de ambas fuentes?
|| || || ||
|| | | | | | | |
=
0.5287+0.442=0.9780
0.9708
|
16.- Con el fin de mejorar la utilización de un BSC, la electrónica de entrada y de salida están diseñados de manera que la entrada al BSC se envía dos veces y la salida se interpreta como sigue: - Si se reciben dos 0 del canal de salida a un solo 0 - Si se reciben dos 1 del canal de salida una sola 1 - Si no se recibe, ya sea 01 o 10, el canal de salida a una sola? Deducir la expresión de la información mutua a través de este BSC aumentada asumiendo entradas equiprobables y compararla con la información mutua de un BSC estándar. De cualquier forma analítica o numéricamente mostrar si esta BSC aumentada es superior a la norma BSC. ¿Qué precio se pagó por esta actuación "mejora"? 17.- La información mutua entre dos variables aleatorias, X y Y, Se define por la ecuación 2.47. Explique cómo I(X;Y) proporciona una medida de la cantidad de independencia entre X y Y. 18.- Un canal de transmisión digital se compone de un enlace de fibra óptica terrestre con una medida de cruce (error de bit) probabilidad de 0,1 seguido de un enlace por satélite con una probabilidad de borrado de 0,2. No hay estadísticas anteriores con respecto a la fuente de información que se transmite a través del canal están disponibles. ¿Cuál es la cantidad media de información que puede ser resuelto por el canal? Con el fin de mejorar la fiabilidad de la canal se propone que los mismos datos que se transmiten a través del canal también se transmiten a través de un canal de cobre terrestre / marina más barato y menos fiable con cruzado probabilidad de 0,3. ¿Cuál es la cantidad media de información que ahora se puede transmitir a través del sistema de canal combinado? Comparar con su respuesta a nterior.
* + * + | * + * + + * |
19.- Considere el siguiente canal error-and-erasure
¿En qué condiciones estará el canal sea débilmente simétrico? ¿Cuál es la expresión para la capacidad del canal cuando el canal es débilmente simétrico?
La suma de las columnas nos da:
Entonces no es un weakly symetric porque la suma de sus columnas no es igual.
20.- Considere el siguiente canal error-and-erasure
Exprese por encontrar el valor de gráfica o analíticamente.
que maximiza
Por lo tanto derivar la capacidad de canal . Usted puede hacer esto numéricamente,
|| | | | |
| | | | | | | Derive la capacidad de canal encontrando el valor de w que maximice I(A, B).
21.- Considere el siguiente canal
y para los siguientes casos.
a)
b)
,
. Calcule la información Mutua
| | | | | | | | | ,
| | |
{ }{ } { } ∑ ()( ) ̅ ∑ || || ̅ | |
La representaciòn en còdigo:
+ +
{ }
El valor mínimo de la grafica q puede tomar es:
Y ocurre con
De la grafica se ve q se cumple para
Entrada equiprobable.
̅ ( ) () | Distorsión
| | | | | | ̅ ( ) ̅ ̅ ̅̅ { } { } )=
