3 riesgos legales de la IA que tu startup no puede ignorar

Por qué un jurista dominicano puso el dedo en la llaga de toda la región

El abogado Pedro Casals planteó en la tercera edición de RD Debate, organizada por El Nuevo Diario y el Consejo de Desarrollo Económico y Social de Santo Domingo (CODESSD), una pregunta incómoda: cuando un sistema de inteligencia artificial causa daño, ¿a quién se demanda? Su exposición giró alrededor de tres ejes, deepfakes, sesgos algorítmicos y vehículos autónomos, que ya no son materia de ciencia ficción sino riesgos legales abiertos en la República Dominicana y, por extensión, en cualquier startup hispanohablante que use IA en su producto.

Casals lo resumió con una metáfora que vale la pena recordar: "El mismo instrumento en manos de un ser humano salva vidas, pero en manos de un delincuente puede quitarlas. La culpa no es del instrumento". Esa frase, reportada por El Nuevo Diario, condensa el problema central: la tecnología es neutral, pero la responsabilidad jurídica no lo es.

¿Qué planteó exactamente Casals?

El jurista identificó tres frentes donde la ley va detrás de la tecnología, y donde los emprendedores deben extremar precauciones hoy, antes de que el marco regulatorio los alcance.

🤖 La IA no es solo para leer sobre ella

En la comunidad la aplicamos: automatización, agentes IA y herramientas reales para emprender, no solo para informarte.

👥 Aplicarla en la comunidad

1. Deepfakes y atribución falsa. Un video generado por IA puede poner en boca de una persona declaraciones que nunca hizo. Para Casals, el problema jurídico central es definir quién responde: el creador del modelo, quien reproduce el contenido o quien lo distribuye. La pregunta no es teórica: ya hay casos donde fundadores, CEOs y empleados han sido blanco de suplantaciones virales con impacto reputacional y financiero.

2. Sesgos cognitivos y algorítmicos. Un modelo entrenado con datos sesgados reproduce esos sesgos en sus decisiones, desde descartar candidatos en procesos de selección hasta negar créditos sin justificación razonable. Casals advirtió que el problema se agrava porque los sistemas "tienen capacidad para aprender, adaptarse y mejorar progresivamente su funcionamiento", lo que dificulta auditar el comportamiento real del modelo en producción.

3. Sistemas autónomos y dilema de responsabilidad. ¿Quién paga cuando un vehículo autónomo atropella a un peatón? ¿El fabricante, el desarrollador del software, el dueño del vehículo o el propio sistema? Casals sostuvo que la legislación dominicana, como la de la mayoría de países de la región, no tiene respuesta clara para esta cadena de agentes.

El contexto global: la UE ya legisló, LATAM corre detrás

Mientras Casals planteaba el debate en Santo Domingo, el resto del mundo avanzaba con legislaciones concretas que pronto impactarán a cualquier startup que sirva clientes internacionales.

En la Unión Europea, el AI Act lleva aplicándose de forma gradual desde su entrada en vigor, según el resumen oficial del Future of Life Institute. Las prohibiciones sobre ciertos sistemas (incluida la generación de imágenes íntimas no consensuadas, categoría donde caen muchos deepfakes maliciosos) entraron en vigor el 2 de febrero de 2025, y un segundo paquete de prohibiciones sobre contenido de abuso infantil generado por IA aplica desde el 2 de diciembre de 2026. Las obligaciones de transparencia del artículo 50, que obligan a indicar al usuario cuándo interactúa con IA, rigen desde el 2 de agosto de 2026.

En América Latina, el ritmo es más lento pero ya hay movimiento. Según el informe "El nuevo mapa regulatorio de la inteligencia artificial en Latinoamérica" de Deloitte, recogido por la revista Semana, solo Perú y El Salvador cuentan hoy con legislación específica plenamente vigente sobre IA. Colombia avanza con el Proyecto de Ley 043 de 2025 Senado y 324 de 2025 Cámara, que adopta un enfoque basado en riesgos inspirado en el modelo europeo. Brasil tiene un proyecto aprobado por el Senado, Chile transita su segundo trámite constitucional y México propuso crear una autoridad nacional especializada. Deloitte destaca que las obligaciones para quienes desarrollen o usen sistemas de IA dependerán del impacto potencial sobre las personas y la sociedad.

Para una startup, el mensaje práctico es claro: diseñar producto pensando en el peor escenario regulatorio europeo no es paranoia, es ventaja competitiva cuando esos marcos lleguen a LATAM.

¿Qué significa esto para tu startup?

El debate de Casals no es solo filosofía jurídica. Tiene consecuencias directas para founders que están levantando producto con IA hoy.

Acciones concretas que podés aplicar esta semana:

Audita tus datos de entrenamiento. Documenta de dónde vienen, qué sesgos potenciales tienen y cómo los mitigás. Si usas un modelo de terceros (OpenAI, Anthropic, Mistral), exigí a tu proveedor documentación equivalente: el AI Act europeo ya obliga a proveedores de modelos de propósito general a publicar resúmenes del contenido de entrenamiento.
Etiqueta el contenido generado por IA. Desde agosto de 2026, en la UE los deployers deben informar a los usuarios cuando interactúan con IA o cuando publican deepfakes. Aunque no operes en Europa, entrenar a tu producto con esa práctica te blinda cuando las regulaciones locales lleguen.
Mapea tu cadena de responsabilidad. Si tu producto usa un modelo de un proveedor, que tu contrato contemple quién responde ante un output difamatorio, una decisión sesgada o un accidente. Casals hizo la pregunta correcta: cuando el sistema falla, ¿a quién llama el abogado del demandante?
Revisa tu seguro de responsabilidad civil. Pocas pólizas tradicionales cubren fallos algorítmicos. Empresas como AIG, Munich Re y algunas insurtechs ya ofrecen coberturas específicas para riesgos de IA, aunque no son baratas.
Crea un canal de reporte de incidentes. El AI Act exige a proveedores de modelos con riesgo sistémico rastrear y reportar incidentes graves. Tener un proceso interno antes de que sea obligatorio te posiciona bien ante futuros clientes corporativos y regulators.

Conclusión: regular no es el enemigo, improvisar sí

El aviso de Casals coincide con lo que están legislando Europa y los países más avanzados de LATAM: la inteligencia artificial necesita reglas claras no para frenarla, sino para que quien invierta, construya o use IA sepa a qué atenerse. Las startups que internalicen estos principios desde el diseño, en lugar de reaccionar cuando llegue la sanción, tendrán una ventaja real en licensing, fundraising y expansión internacional. La oportunidad está en convertir el cumplimiento regulatorio en una feature de producto.