Saltar al contenido

¿Cuál es la definición informática de entropía?

Haz todo lo posible por interpretar el código bien previamente a adaptarlo a tu proyecto y si tdeseas aportar algo puedes compartirlo con nosotros.

Solución:

La entropía puede significar diferentes cosas:

Informática

En informática, la entropía es la aleatoriedad recopilada por un sistema operativo o una aplicación para su uso en criptografía u otros usos que requieren datos aleatorios. Esta aleatoriedad a menudo se recopila de fuentes de hardware, ya sean preexistentes, como los movimientos del mouse, o generadores de aleatoriedad proporcionados especialmente.

Teoría de la información

En la teoría de la información, la entropía es una medida de la incertidumbre asociada con una variable aleatoria. El término en sí mismo en este contexto generalmente se refiere a la entropía de Shannon, que cuantifica, en el sentido de un valor esperado, la información contenida en un mensaje, generalmente en unidades como bits. De manera equivalente, la entropía de Shannon es una medida del contenido de información promedio que falta cuando no se conoce el valor de la variable aleatoria.

Entropía en la compresión de datos

La entropía en la compresión de datos puede indicar la aleatoriedad de los datos que ingresa al algoritmo de compresión. A mayor entropía, menor relación de compresión. Eso significa que cuanto más aleatorio sea el texto, menos podrá comprimirlo.

La entropía de Shannon representa un límite absoluto en la mejor compresión sin pérdidas posible de cualquier comunicación: al tratar los mensajes para que se codifiquen como una secuencia de variables aleatorias independientes e idénticamente distribuidas, el teorema de codificación fuente de Shannon muestra que, en el límite, la longitud promedio de la más corta La representación posible para codificar los mensajes en un alfabeto dado es su entropía dividida por el logaritmo del número de símbolos en el alfabeto objetivo.

Mi definición favorita, con un enfoque más práctico, se encuentra en el Capítulo 1 del excelente libro The Pragmatic Programmer: From Journeyman to Master de Andrew Hunt y David Thomas:

Entropía del software

Si bien el desarrollo de software es inmune a casi todas las leyes físicas, la entropía nos golpea con fuerza. La entropía es un término de la física que se refiere a la cantidad de “desorden” en un sistema. Desafortunadamente, las leyes de la termodinámica garantizan que la entropía en el universo tiende hacia un máximo. Cuando aumenta el desorden en el software, los programadores lo llaman “podredumbre del software”.

Hay muchos factores que pueden contribuir a que el software se pudra. El más importante parece ser la psicología, o la cultura, en el trabajo de un proyecto. Incluso si es un equipo de uno, la psicología de su proyecto puede ser algo muy delicado. A pesar de los mejores planes y la mejor gente, un proyecto aún puede experimentar la ruina y el deterioro durante su vida útil. Sin embargo, hay otros proyectos que, a pesar de las enormes dificultades y los constantes contratiempos, combaten con éxito la tendencia de la naturaleza al desorden y logran salir bastante bien.

Una ventana rota.

Una ventana rota, que no se reparó durante un período considerable de tiempo, inculca en los habitantes del edificio una sensación de abandono, una sensación de que a los poderes fácticos no les importa el edificio. Así que otra ventana se rompe. La gente empieza a tirar basura. Aparece el grafiti. Comienzan serios daños estructurales. En un espacio de tiempo relativamente corto, el edificio se daña más allá del deseo del propietario de arreglarlo, y la sensación de abandono se hace realidad.

La “teoría de la ventana rota” ha inspirado a los departamentos de policía de Nueva York y otras ciudades importantes a tomar medidas enérgicas contra las cosas pequeñas para evitar las cosas grandes. Funciona: mantenerse al tanto de las ventanas rotas, los grafitis y otras pequeñas infracciones ha reducido el nivel de delitos graves.

Consejo 4

No vivas con las ventanas rotas

No deje “ventanas rotas” (malos diseños, decisiones equivocadas o código deficiente) sin reparar. Repare cada uno tan pronto como se descubra. Si no hay tiempo suficiente para arreglarlo correctamente, entonces tápelo. Quizás pueda comentar el código ofensivo, o mostrar un mensaje “No implementado”, o sustituir datos ficticios en su lugar. Tome alguna medida para evitar daños mayores y demostrar que está al tanto de la situación.

Texto tomado de: http://pragprog.com/the-pragmatic-programmer/extracts/software-entropy

Siempre me encontré con la entropía en el sentido de la entropía de Shannon.

De http://en.wikipedia.org/wiki/Information_entropy:

En la teoría de la información, la entropía es una medida de la incertidumbre asociada con una variable aleatoria. El término en sí mismo en este contexto generalmente se refiere a la entropía de Shannon, que cuantifica, en el sentido de un valor esperado, la información contenida en un mensaje, generalmente en unidades como bits. De manera equivalente, la entropía de Shannon es una medida del contenido de información promedio que falta cuando no se conoce el valor de la variable aleatoria.

valoraciones y comentarios

Recuerda algo, que puedes permitirte añadir una estimación verdadera si te ayudó.

¡Haz clic para puntuar esta entrada!
(Votos: 0 Promedio: 0)



Utiliza Nuestro Buscador

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *