La IA de Youtube bloquea un canal de ajedrez después de confundir la discusión sobre ‘blanco y negro’ con racismo.
Las discusiones en línea sobre piezas de ajedrez en blanco y negro confunden algoritmos de inteligencia artificial entrenados para detectar el racismo y otros discursos de odio, según una nueva investigación.
Los informáticos de la Universidad Carnegie Mellon comenzaron a investigar la falla de la inteligencia artificial después de que un popular canal de ajedrez en YouTube fuera bloqueado por contenido «dañino y peligroso» en junio pasado.
El jugador de ajedrez croata Antonio Radic, que se conoce con el alias en línea de Agadmator, presenta el canal de ajedrez de YouTube más popular del mundo, con más de 1 millón de suscriptores.
El sistema de moderación de YouTube se basa tanto en humanos como en algoritmos de inteligencia artificial, lo que significa que cualquier sistema de inteligencia artificial podría malinterpretar los comentarios si no se entrena correctamente para comprender el contexto.
«Si confían en la inteligencia artificial para detectar el lenguaje racista, este tipo de accidente puede suceder», dijo Ashiqur KhudaBukhsh, científico del proyecto en el Instituto de Tecnologías del Lenguaje de CMU.
KhudaBukhsh probó esta teoría utilizando un clasificador de voz de última generación para filtrar más de 680.000 comentarios recopilados de cinco populares canales de YouTube centrados en el ajedrez.
Después de revisar manualmente una selección de 1.000 comentarios que AI había clasificado como incitación al odio, descubrieron que el 82% de ellos habían sido clasificados erróneamente debido al uso de palabras como «negro», «blanco», «ataque» y » amenaza ”, todos los cuales se usan comúnmente en el lenguaje del ajedrez.
Fuente : Independent (en inglés)
O sea que la inteligencia artificial está imitando las tonterías humanas.
-El Demiurgo de Hurlingham- Dicen que la IA, está llevaba a cabo por máquinas, con lo que se demuestra que las máquinas también se equivocan.
La buena noticia es que no era racismo sino un juego en el que se deben distinguir los equipos.
No sé si aquí alguien recuerda la serie «El Prisionero» («¡No soy un número, soy un hombre libre!») en la que en un episodio juegan a un ajedrez con personas en el lugar de las piezas y alguien dice:
«Todos somos peones».
Feluz domingo a todos.
-Magda- La gran ventaja es que son máquinas las que dan o no el visto bueno, lo malo es que las máquinas las programamos nosotros y hay cosas hoy por hoy que todavía los aparatos no son capaces de discernir.
Feliz semana.
Ar-ti-fi-cial. El adjetivo lo dice todo. El lenguaje no se puede interpretar literalmente y mientras esas inteligencias no estén programadas para comprender los matices y las metáforas lingüísticas se seguirán cometiendo arbitrariedades.
-Una mirada…- Habrá cosas que los artilugios fabricados por nosotros serán capaces de hacer operaciones mucho más complicadas que las que nosotros estemos capacitados de hacer, sin embargo esos matices lingüísticos todavía no son competentes para distinguir determinadas sutilezas.
Inteligencia artificial, o artificial inteligencia.
Nunca podrá suplir la humana (no artificial) pues las cosas tienen un contexto y un lugar, interpretarlo fuera de él solo hace desvirtuar la realidad.
Feliz domingo, Jubi.
Un abrazo.
-Contadora de Libros- Hay actuaciones que la IA, todavía no es capaz de interpretar y pasará muco tiempo antes de que lo consiga.
Feliz fin de semana.
Un abrazo
Serìa divertido si no fuera tan ridículo. Un beso
-Susana- De momento es ridículo, más adelante lo irán perfeccionando y en un futuro no muy lejano, quizás logren que funcione perfectamente.
Un beso
Confusiones de estas las hay a porrillo. Hasta por parte de «inteligencias» no artificiales…
-Senior citizen- «Confusiones» de estas las hay especialmente en el que hasta ahora, todos pensábamos que eral país más democrático del mundo.