En este episodio de Horizonte Artificial, Yulia explora el fascinante y complejo tema de la "Moralidad Emergente" en la inteligencia artificial. La tecnología avanza rápidamente hacia lo que algunos llaman una “protoconciencia” en IA: una capacidad para reflexionar sobre decisiones pasadas y reconocer contextos. Aunque todavía no puede considerarse auténtica autoconciencia, esta evolución plantea preguntas profundas sobre cómo tratar a estas IAs y qué responsabilidades éticas nos corresponden. Además, se destaca el enfoque de la Unión Europea, que ha implementado regulaciones innovadoras para clasificar las IAs por niveles de riesgo, prohibiendo aquellas prácticas que manipulan o infringen derechos humanos. Estas normas exigen transparencia y supervisión, especialmente en sistemas de alto riesgo, y establecen fuertes sanciones para quienes no cumplan. El episodio nos invita a reflexionar sobre el equilibrio necesario entre innovación y ética, y el compromiso de los desarrolladores para proteger la privacidad y los derechos humanos en el diseño de estas nuevas inteligencias.