Anthropic ha actualizado la Constitución de Claude, codificando sus principios éticos y de seguridad. El punto crucial es la inclusión de la incertidumbre sobre la conciencia del modelo en su arquitectura de seguridad y alineación.
El co-fundador de Twitch, Emmett Shear, impulsa Softmax, una iniciativa que abandona la carrera por la supremacía de la IA para centrarse en mitigar riesgos existenciales y garantizar la alineación humana.
El cine de ciencia ficción, desde 'Her' hasta 'The Matrix', ofrece una hoja de ruta ética para entender nuestra compleja relación con la IA: desde el vínculo emocional hasta la crisis de la realidad sintética y la necesidad urgente de alineación.
¿Y si la inteligencia artificial pudiera rediseñarse por completo sin intervención humana? Eso es exactamente lo que propone la Darwin Gödel Machine (DGM), un nuevo tipo de agente autónomo que no solo aprende, sino que evoluciona. Literalmente. Modifica su propio…