Una corte en Múnich, Alemania, ha emitido un fallo que marca un precedente en la responsabilidad legal de las tecnologías de inteligencia artificial (IA). El Tribunal Regional de Múnich determinó que Google es responsable de declaraciones falsas generadas por su función AI Overviews, un aspecto que puede alterar la operación de motores de búsqueda y chatbots en el futuro.
Contexto del caso
El fallo surge a raíz de una disputa legal iniciada por Ulrich Richter, quien demandó a Google tras descubrir que resúmenes generados por la IA vinculaban a su empresa con prácticas comerciales engañosas. Dichas implicancias no tenían fundamento real, lo que llevó al tribunal a concluir que la IA había creado "declaraciones independientes y nuevas" que no estaban sustentadas en los datos de las fuentes enlazadas.
Google había sostenido que su tecnología advierte a los usuarios sobre la posibilidad de errores y que la información debe ser verificada de manera independiente. Sin embargo, el tribunal argumentó que la responsabilidad recae en Google, dado que la información generada por su IA puede ser engañosa y carece de comparación con los motores de búsqueda tradicionales.
Implicaciones del fallo
El tribunal concluyó que la línea de defensa de Google es insuficiente, considerando que la IA puede producir afirmaciones que no están presentes en las fuentes originales. Por lo tanto, esto podría redefinir cómo las empresas tecnológicas deben abordar las implicancias legales de sus desarrollos de IA. La corte estableció que a diferencia de los motores de búsqueda que simplemente agrupan información, la IA genera contenido que puede dar lugar a afirmaciones erróneas.
Como resultado del fallo, Google deberá eliminar las afirmaciones difamatorias de su plataforma y cubrir el 80% de los costos judiciales del proceso. La empresa manifestará su intención de apelar la decisión, señalando que invierte en la calidad y precisión de los resúmenes generados por su IA.
Este caso podría influir en otras empresas tecnológicas como OpenAI y Anthropic, que también han incluido advertencias sobre la posibilidad de errores en sus sistemas de IA. Sin embargo, el tribunal establece que tales advertencias no eximen a la compañía de responsabilidades legales por información errónea generada por su tecnología.
