La inteligencia artificial no te va a quitar el trabajo...
Discover more from Hemisferios
La inteligencia artificial no te va a quitar el trabajo...
... pero sí será racista contigo.
Sobre como las inteligencias artificiales son racistas y sexistas
El 2022 fue el año en que las inteligencias artificiales (IA) tomaron mas fuerza que nunca porque a pesar de no ser algo tan nuevo, aquí fue donde se le mostró a las personas formas mas digeribles de lo que son, lo que hacen y como pueden ayudar a las tareas del día a día. En la ultima semana este tema ha estado con mas movimiento dado a dos cosas particularmente: la actualización que OpenAI le dio a ChatGTP y a la alianza con Microsoft para generar productos como Copilot para Office y su integración con Bing.
Como es normal, este tema ha generado división en las personas ya que unos juran que es la soluciona todos nuestros problemas tecnológicos, mientras que otros piensan que simplemente van a “evolucionar” y nos van a matar a todos. Un ejemplo de esto ultimo es que en junio pasado, un ingeniero (con profesión de sacerdote) de Google llamado Blake Lemoine fue despedido de la empresa ya que este aseguraba que la inteligencia artificial que Google desarrolla (llamada LaMDA) tenia vida y era consciente de las cosas que hacia y decía. ¿Como llego a esta conclusión? Les dejo un extracto traducido y arreglado un poco para el entendimiento:
“Lemoine, que trabaja para la organización de inteligencia artificial responsable de Google, comenzó a hablar con LaMDA como parte de su trabajo en el otoño (finales del 2021). Se había apuntado para probar si la inteligencia artificial utilizaba discursos discriminatorios o de odio.
Mientras hablaba con LaMDA sobre religión, Lemoine, quien estudió ciencias cognitivas e informática en la universidad, notó que el chatbot hablaba sobre sus derechos y su personalidad, y decidió presionar más. En otro intercambio, la IA pudo cambiar la opinión de Lemoine sobre la tercera ley de la robótica de Isaac Asimov.
Si no supiera exactamente qué es, que es este programa de computadora que construimos recientemente, pensaría que es un niño de 7 u 8 años que sabe física", dijo Lemoine, de 41 años.”
Al ser despedido, la noticia muto de “lo despedimos por salud mental” a “LaMDA es consciente y despidieron al ingeniero que lo publico”, pero no, LaMDA no es consciente de sí misma y Blake Lemoine no fue despedido por revelar la “creación inteligente secreta de Google”, pero sigo pensando que esta historia es fascinante, no por la historia como tal, sino por otros trabajos que la rodean, trabajos como el de Timnit Gebru.
Timnit Gebru es una científica informática conocida por su trabajo en sesgo algorítmico. Google la contrató después de ser coautora de un artículo que demostraba prejuicios raciales en el software de reconocimiento facial y luego el mismo Google la despidió después de escribir sobre los peligros de los modelos de lenguaje, como LaMDA.
On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?
Uno de los peligros de los que habla es lo que ella llama “Coherencia a los ojos del espectador” (Coherence in the eyes of the beholder), refiriéndose a nuestra tendencia a asignar humanidad a lo que ella llama “loros estocásticos” o inteligencia artificial que simplemente repite lo que le enseñamos a decir. .
Blake Lemoine, el ingeniero despedido por Google es exactamente el tipo de "espectador" contra el que advierte Gebru, un cristiano místico que afirma y que cree que LaMDA tiene un alma centrándose en su calidad de sacerdote y no pensando como científico.
Personalmente, <y este es mi sesgo>, espero que este gran alboroto mediático sobre el despido de Lemoine atraiga más atención al trabajo de Gebru porque, si bien esta preocupación de la cultura pop con la inteligencia artificial es que algún día "crecerá la sensibilidad y nos matará a todos" Gebru menciona muchos problemas sobre la inteligencia artificial que ya mismo están sucediendo, por ejemplo, dice que entrenar un modelo de lenguaje singular una vez (que se entrena muchas veces) puede producir 284 toneladas de dióxido de carbono y los conjuntos de datos en los que se entrenan son tan grandes que no se pueden filtrar en busca de sesgos internos y al final terminas con una inteligencia artificial que es racista, sexista y otros.
Hace unos seis años, A.I. en un servicio de fotos en línea de Google organizó fotos de personas negras en una carpeta llamada "gorilas". Hace cuatro años, un investigador de una empresa nueva de Nueva York notó que la A.I. del sistema en ‘el que estaba trabajando estaba claramente sesgado contra los negros. No mucho después, un investigador negro en Boston descubrió que una I.A. El sistema no pudo identificar su rostro, hasta que se puso una máscara blanca.
Entonces, si bien la idea de una inteligencia artificial consciente da miedo, todavía está bastante lejos en el futuro y debemos preocuparnos por las cosas malas que están sucediendo ahora.
Si quieren leer toda la entrevista con Gebru, este es el link → Who Is Making Sure the A.I. Machines Aren’t Racist?
El aborto en Texas
Yo, como hombre heterosexual no tengo razón dar opiniones sobre si el aborto debe ser permitido o no, pero si puedo dar una opinión sobre los derechos que cada persona tiene sobre su cuerpo: Cada persona en el mundo decide como afrontar las situaciones que afectan su vida y su cuerpo, así mismo, el estado TIENE que proveer ayuda y guiá para que se tome una decisión consciente.
Si has estado alejado de las noticias estas ultimas semanas te dejo unos links que me sirvieron a mi para informarme, tal vez si eres mujer y si vives en Texas te pueden servir:
Una mujer y su hija serán juzgadas en Nebraska tras ser acusadas de realizar un aborto ilegal, con una prueba clave proporcionada por Meta, la empresa matriz de Facebook. Los fiscales dijeron que la madre ayudó a su hija a encontrar y tomar pastillas que inducirían un aborto.
TechCrunch informó que la compañía de redes sociales proporcionó registros de chat internos a los agentes.
Marzo 06: Cinco mujeres demandan a Texas por la prohibición estatal del aborto
Las mujeres, respaldadas por un grupo de derechos al aborto, dicen que se les negó el aborto bajo la ley estatal a pesar de los riesgos para ellas y sus fetos que hicieron que el procedimiento fuera una necesidad médica.
Marzo 15: Abogados se enfrentarán ante el juez en caso de píldoras abortivas vigilado de cerca
La primera audiencia en una demanda que busca revocar F.D.A. la aprobación de las píldoras se lleva a cabo el miércoles por la mañana en Texas.
Marzo 16: Los abogados discuten ante el juez por la revocación de la aprobación federal de la píldora abortiva
El juez dijo que pronto decidiría si emite una orden judicial preliminar que ordene a la F.D.A. retirar su aprobación del fármaco o esperar al ensayo completo.
Hasta hoy viernes no ha habido una conclusión de todo lo que esta pasando al rededor del aborto en Texas, pero ¿por qué es Texas tan importante? Simplemente porque este estado es tomado como modelo por muchos.
El problema de las SUVs en Estados Unidos.
En Estados Unidos los autos tipo SUV son el modelo mas popular y esto es porque es mas rentable para fabricantes y petroleras. Generalmente los publicitan como autos hechos para tu seguridad, sin embargo es una afirmación que no se termina de aclarar.
El canal de Youtube NotJustBikes es un canal que se dedica a promover el uso de bicicletas en las ciudades con análisis de problemáticas como trafico, diseño de las ciudades y eficiencia de las mismas. Hace una semana publicaron este video en donde explican (desde su punto de vista, probablemente con sesgos) como ha sido la evolución de este tipo de autos y como han ido cambiando las regulaciones que les aplican.
Estos cambios en regulaciones han generado que sean inseguros, no necesariamente para sus conductores si no para las personas que no tienen un vehículo como ese o para los peatones.
Comparto el video para mostrar un punto de vista alternativo a algo como “me gustaría una camioneta para que cuando vaya al súper pueda cargar todas las bolsas”, y aunque considero que el video tiene sesgos creados por el objetivo del canal, también considero que toma temas importantes. Al final cada uno debe hacerse sus propias opiniones.
Otros links:
Me imagino que esta semana han estado inundados de noticias de los Oscars y perdón por no dejarlos descansar del tema, pero este video me puso los ojos aguados, entre 5:15 y 5:18.
Great Art Explained es uno de mis canales favoritos en Youtube. Este canal explica las grandes obras del arte usando un lenguaje que todos puedan entender, hasta las personas que no conocemos de arte. Aquí explican una obra de arte no solo sobre su trabajo técnico, si no analizan puntos como contextos sociales del momento, estado del artista y la repercusión de la obra en la sociedad.
¿Como están? Yo me estoy dando cuenta que empezar universidad de nuevo no fue la mejor decisión que he hecho en los últimos meses, el nivel de consumo de tiempo es bastante alto.
Sin embargo, esta semana logre terminar varias lecturas que tenia en el TBR. Lo primero fue “Humano Es” el cual es un libro que recopila varios cuentos cortos de Philip K. Dick y logre enganchar bastante bien con este formato, creo que es un buen inicio para las personas que quieran meterse a la ciencia ficción o a la lectura en general.
La segunda lectura que termine fueron los dos primeros tomos del manga de Kimetsu no Yaiba. Empece esta serie hace aproximadamente un mes, hemos estado viendo el anime y todo se dio ya que el primer capitulo de la nueva temporada se estrenó en cine hace una semana y fuimos a verlo. Claramente no alcance a ponerme al día así que ya sé como termina la segunda temporada, pero todavía no la he iniciado.
En mis lecturas no acostumbro a leer manga, no me había llamado la atención antes, pero en los últimos meses he estado leyendo algunos y los he disfrutado.
Si te gusto lo que leíste, siempre puedes responder este mail, me gustaría mucho recibir comentarios y analizar mas perspectivas. O Si este correo te lo reenviaron, desde aquí te puedes suscribir.
Buen fin de semana!
Me alegra mucho que llegaste bien al final de la semana y de este correo, gracias por leer.