Este documento presenta un código en MATLAB que calcula la entropía de un archivo de texto mediante la frecuencia de aparición de cada carácter. El código cuenta la frecuencia de cada carácter del archivo, calcula su probabilidad y usa esos valores para hallar la entropía total del archivo, la cual resulta ser de 3.872878.

1. PONTIFICIA UNIVERSIDAD CATOLICA DEL ECUADOR SEDE
IBARRA
FERNANDO PINTADO
TEORIA DE SISTEMAS
CALCULO DE LA ENTROPIA CON MATLAB
CODIGO
i=1;
entrop=0;
simbolos(i)=0;
arch = fopen('clase.txt');
arre = fscanf(arch,'%c');
for j=32:255
datos=char(j);
total=length(strfind(arre,datos));
proba=total/length(arre);
if(total~=0)
simbolos(i)=total;
fprintf('tCaracter: t%c Cantidad de repeticiones:t %d ',datos,total);
fprintf('tcon probabilidadt %f n',proba);
i=i+1;
in=log2(1/proba);
entrop=entrop + proba*in;
end
end
fprintf('ttLa entropia es t %f n',entrop);
RESPUESTA
entropia
Caracter: Cantidad de repeticiones: 5 con probabilidad
0.142857
Caracter: N Cantidad de repeticiones: 1 con probabilidad
0.028571
Caracter: O Cantidad de repeticiones: 1 con probabilidad
0.028571
Caracter: a Cantidad de repeticiones: 2 con probabilidad
0.057143
Caracter: b Cantidad de repeticiones: 1 con probabilidad
0.028571

2. Caracter: c Cantidad de repeticiones: 2 con probabilidad
0.057143
Caracter: e Cantidad de repeticiones: 5 con probabilidad
0.142857
Caracter: i Cantidad de repeticiones: 1 con probabilidad
0.028571
Caracter: l Cantidad de repeticiones: 1 con probabilidad
0.028571
Caracter: m Cantidad de repeticiones: 1 con probabilidad
0.028571
Caracter: n Cantidad de repeticiones: 2 con probabilidad
0.057143
Caracter: o Cantidad de repeticiones: 1 con probabilidad
0.028571
Caracter: p Cantidad de repeticiones: 1 con probabilidad
0.028571
Caracter: q Cantidad de repeticiones: 1 con probabilidad
0.028571
Caracter: r Cantidad de repeticiones: 2 con probabilidad
0.057143
Caracter: s Cantidad de repeticiones: 4 con probabilidad
0.114286
Caracter: t Cantidad de repeticiones: 1 con probabilidad
0.028571
Caracter: u Cantidad de repeticiones: 3 con probabilidad
0.085714
La entropia es 3.872878