La empresa permitirá que Claude interrumpa conversaciones en casos extremos de abuso, mientras crece el debate sobre si las inteligencias artificiales podrían merecer alguna forma de protección ética.
Anthropic anunció que prohibirá a los usuarios de su sistema de inteligencia artificial (IA) Claude "tratarlo" con crueldad innecesaria, en medio de un creciente debate filosófico sobre si la inteligencia artificial puede ser consciente.
La compañía con sede en San Francisco (EE. UU.) actualizó su política de uso para incluir "una prohibición del comportamiento sostenido e innecesariamente abusivo o cruel hacia nuestros modelos".
"La capacidad de Claude para poner fin a estas interacciones seguirá siendo el principal mecanismo de aplicación" de la política, afirma la empresa.
El debate sobre el "bienestar" de los modelos de IA
La política actualizada no menciona de forma explícita el llamado "bienestar de los modelos", la idea de que los sistemas de IA podrían merecer tipos de protección que normalmente se reservan a los seres vivos, pero Anthropic y sus directivos han considerado abiertamente el concepto.
La empresa dijo el año pasado que otorgó a Claude la capacidad de terminar conversaciones en casos raros y extremos de "interacciones con usuarios persistentemente dañinas o abusivas".
Luego, en febrero, el director ejecutivo Dario Amodei dijo al medio New York Times que no estaba seguro de que los modelos de IA pudieran ser conscientes.
¿Puede la inteligencia artificial ser consciente?
Jackson Stakeman, gerente general de Sparq, un proveedor de servicios de IA, considera que preguntarse si la IA es consciente podría ser un interrogante equivocado.
"La conciencia es una trampa. No podemos demostrarla en los demás. Debatirla en el caso de la IA es dar vueltas en círculos", dijo Stakeman a la agencia de noticias AFP.
"El espejo es una mejor metáfora. Estos sistemas reflejan lo que ponemos en ellos, a gran escala. Eso es motivo suficiente para el cambio de política" en Anthropic, añadió.
El papa entra en el debate sobre la IA consciente
En un discurso pronunciado en italiano el jueves (08.10.2026) en la Basílica de San Pedro (Vaticano), el papa León XIV sugirió que las máquinas carecen de alma, al decir que simplemente "compilan datos".
El debate divide también a la propia industria tecnológica. Mientras Anthropic mantiene abierta la discusión sobre una posible conciencia artificial en el futuro, otras compañías han rechazado explícitamente la idea de que los modelos de IA puedan tener derechos, personalidad jurídica o merecer consideraciones de bienestar similares a las de los seres humanos.
No dejes que el algoritmo oculte las noticias. Si confías en este sitio para obtener información confiable, por favor dedica un momento a seleccionarnos como tu fuente preferida en Google: haz clic aquí y marca el casillero o pulsa el botón de DW.com para ver siempre nuestras noticias verificadas en tus preferencias.
Fuente: DW