En los últimos meses, estamos viviendo una auténtica revolución en el área de la Inteligencia Artificial.
Los nuevos modelos generativos basados en redes neuronales, permiten a las máquinas imitar con gran fidelidad las formas de hablar y escuchar de las personas.
Esto nos abre las puertas a un nuevo mundo de posibilidades para mejorar la accesibilidad, la creación de contenidos, la formación y los procesos de trabajo, entre otras cosas.
Pero ¿cuáles son los desafíos éticos que nos suponen? ¿dónde están los límites entre lo técnicamente posible y lo socialmente responsable?
Desde Fonos, creemos que el diseño y desarrollo de cualquier producto o servicio debe fundarse siempre desde unos principios éticos firmes. Esto incluye por supuesto aquellos que están basados en Inteligencia Artificial, como es el caso de las voces sintéticas.
Desde la publicación de este proyecto, hemos querido dejar claro cuáles son estos principios. Con este artículo, queremos profundizar más en qué significan estos principios dónde nos posicionamos.
La tecnología debe servir para romper barreras
Las voces sintéticas tienen muchos usos posibles, desde la creación de contenidos culturales, pasando por la creación de experiencias conversacionales, y llegando incluso a mejorar la accesibilidad y apoyo a la comunicación para personas con dificultades en el habla.
Estos casos de uso no afectan a todo el mundo por igual. Personas con discapacidad, infantes y adultos de edad avanzada han estado históricamente en riesgo de exclusión en cuanto a las capacidades que la tecnología permite.
Nuestra aspiración es hacer llegar las tecnologías del habla a todas las personas de forma universal para que ésta contribuya positivamente para todas.
La Inteligencia artificial debe ser útil, responsable y diversa
Debemos ser conscientes de que cualquier producto basado en IA tiene un riesgo de sesgo elevado si no se evita desde el inicio. Esto se debe a la propia naturaleza de estos modelos que imitan a partir de una muestra de datos muy concreta.
Debemos asegurarnos de que los datos que usamos para la creación de estos modelos son diversos. En nuestro caso, ésta viene dada por la diversidad de dialectos, acentos, edades, género y otras características de la voz, que ayudan a crear identidades de voz que representen a las personas de una forma amplia.
Además, debemos ser transparentes cuando el contenido esté generado mediante voces sintéticas. Como entendemos que la gran calidad de las voces puede dificultar en ciertos contextos la identificación indistinguible de una voz generada de forma artificial, insistimos en incluir siempre suficiente información sobre este hecho para evitar un uso malicioso, e incluso ajustar expectativas sobre las capacidades de la propia tecnología. Las noticias de McKinsey & Company son un buen ejemplo de cómo pueden presentarse estas locuciones sintéticas.
Las personas deben tener total control sobre sus datos personales
Desde Fonos sabemos que ya existen herramientas que permiten a cualquier persona clonar la voz de cualquier persona con pocas muestras de su voz.
Nuestra motivación es crear productos responsables que por diseño eviten, en la medida de las posibilidades técnicas y humanas, que esto pueda llegar a suceder. Sólo la persona que decida registrarse en Fonos podrá usar su voz y decidir si permite o no el uso por terceros. Esto incluye tanto las muestras de voz necesarias para la síntesis, como las potenciales generaciones de audio que se realicen a partir de su voz sintética.
Éstos principios están recogidos en nuestro manifiesto, el cual esperamos sirva también de referencia para organizaciones y particulares que hagan uso de este tipo de tecnologías.
