Tay, la IA de Microsoft se ha cancelado por "nazi". Para pensarse.

Microsoft desarrolló "Tay", una inteligencia artificial que simula el pensamiento de un joven "Millenial" y que tenía presencia en varias redes sociales. Sin embargo, la interacción con humanos en internet la convirtió en una admiradora de Hitler, entre otras muchas cosas de cuestionable juicio y razonamiento en menos de 24 horas.

El asunto puede pasar como gracias del día pero yo creo que tiene implicaciones mas importantes sobre todo si creemos que en el futuro gran parte de nuestras vidas será controlada ya no tanto por máquinas, sino por máquinas tomando decisiones por y para nosotros.

Estas máquinas necesitan aprender criterios que les formen los parámetros adecuados para tomar decisiones. Lo que yo me pregunto es quién decide cuales son esos criterios? La gente común de Internet, con su pobre capacidad de juicio y gran ignorancia? Académicos? Shamanes? ¿Quien decide cual y porque? Habrá que separar a la humanidad en "los que saben" y "los que no saben" ? Suena como regresar varios miles de años.

Si vamos a construir una IA que probablemente supere las capacidades de los humanos, la gran pregunta es como "educarla".

Creo que la conclusión lógica de este evento es que la IA aún está muy lejos de ser realmente inteligente.

Curioso que hace un par de días salió una noticia de que una IA japonesa había pasado el primer round en un concurso literario de ese mismo país. Según esto la IA había "escrito" la novela participante, pero en realidad tuvo que ser ayudada por los investigadores, pues la IA solo lanzaba pequeñas oraciones que tenían que ser después enlazadas manualmente para darles coherencia.

www.digitaltrends.com/cool-tech/japanese-ai-writes-novel-passes-first-round-nationanl-literary-prize/

El problema en sí no son los parámetros de aprendizaje que tendrá la IA, sino primero el entender cómo enlaza en realidad estos el cerebro humano para formar un pensamiento inteligente.

La gran diferencia que veo entre las IA actuales y el cerebro humano es que este puede discernir entre ell conocimiento útil e inútil, pero la IA no. Así, si de repente se aparece un loco diciendo que el mesias es Peña Nieto y su apóstol es AMLO, nosotros sabremos que dicha información es basura aunque nos lo repitan 100 personas, pero la IA la procesará como válida cuando la escuche en repetidas ocasiones.

Exacto! A eso me refiero cuando pregunto quién será el Dr. Chandra que le enseñe a discernir sobre lo que es bueno y lo que es malo y como debe interpretar la información que recibe.

Creo que tienes razón en señalar que las "IA" de hoy necesitan el apoyo de humanos: aunque a veces pareciera que si son algo inteligentes, estoy casi seguro que se trata de simples máquinas que arrojan una respuesta preprogramada en base a parámetros rudimentarios. No tienen la mas mínima pizca de raciocinio.

Estaba bien retard esa Tay.

www.pcmag.com/slideshow/story/343180/microsoft-s-tay-ai-responds-to-pictures-of-microsoft-s-great

Pues es que también pasa lo mismo en nuestra destrozada sociedad actual. ¿Qué aprendes y dónde lo aprendes? y eso comienza en el humano, de los valores y educación que desde tu casa salieron. Si eres un rico potentado probablemente seas educado pero no necesariamente tengas valores y si eres un número estadístico de la pobreza puede que no hayas pasado de tercero de primaria pero tengas buenos valores... y viceversa... vamos, ¿De quién debemos aprender entonces? creo que como dicen, lo primero es aprender a diferenciar de lo que es bueno y lo que es malo... y lo demás sólo es libre albedrío dependiendo de cada persona. Como le digo a mi hermana siempre sobre sus hijas: enséñales que afuera hay mierda, no las obligues a vivir en una burbuja protegida porque cuando se rompa no van a saber qué hacer. ¿Cuándo una inteligencia artificial va a poder saber lo que es bueno y lo que es malo? NUNCA... porque no es un pensamiento o sentimiento sino una lógica que no puede explicar lo que son valores, sentimientos, educación, amor, odio, creencias, sensaciones, felicidad, malestar etc.