Las voces expertas comienzan a hacerse escuchar diciendo lo que ya comenzaba a notarse: todavía no estamos preparados para el despliegue de las IA en todas sus capacidades. A pesar de ello, muchos laboratorios continúan en una carrera apresurada por desarrollar una tras otra IA, cada vez más potentes que las anteriores, más competitivas. Es por eso que Elon Musk y otros expertos en tecnología ahora quieren ponerle un alto.
La petición formal la respaldan más de 1000 expertos en inteligencia artificial, incluido Musk, Steve Wozniak, Jaan Tallinn e incluso Max Tegmark (los cofundadores de SpaceX, Apple, Skype y MIT respectivamente). En ella, solicitan el cese inmediato del entrenamiento de toda IA que sea igual o superior a GTP-4 por un tiempo de al menos seis meses. Dentro del documento, un comunicado extenso explica las razones. Razones más que suficientes para valorar con seriedad esta petición y pensar que los magnates tienen un punto.
Demasiadas IA a la vista y muy poco compromiso por hacerlas seguras: la receta perfecta para un desastre mundial
“Los sistemas de Inteligencia Artificial con inteligencia humana competitiva pueden convertirse en un gran riesgo para la sociedad y la humanidad”, así comienza el documento donde se han firmado las peticiones de parar inmediatamente las IA similares a GPT-4. La razón, explican, se debe a que, al ser un sistema complejo y de gran potencial, necesita de un manejo minucioso en todos los ámbitos. Junto al uso de grandes recursos para mantener los resultados en regla. Algo que no está sucediendo en la actualidad.
A día de hoy, el ritmo con el que se entrenan las inteligencias artificiales supera al de sus propios desarrolladores a la hora de entender, predecir o medir las posibilidades. Con un sistema tan inestable, el futuro es incierto respecto a lo que podrían ocasionar las IA en poco tiempo dentro de la sociedad.
No solo eso. Sabiendo que estas IA ahora compiten con las personas en actividades diarias e incluso los superan, vale la pena detenerse y preguntarse si realmente conviene que las cosas continúen de esa manera.
“¿Deberíamos dejar que las máquinas llenen nuestros canales de información con propaganda y falsedad? ¿Deberíamos automatizar todos los trabajos, incluidos aquellos que otorgan propósito? ¿Deberíamos desarrollar mentes no humanas que podrían sobrepasar y reemplazar a las personas en tiempo récord? ¿Deberíamos arriesgarnos a perder el control de nuestra civilización?” Son las preguntas que plantean los expertos y que todavía no han tenido respuesta.
Es importante tener en cuenta que a día de hoy, muchas IA no son tan fiables como deberían, y proporcionan respuestas erróneas en diferentes ámbitos. De continuar apoyándose en ellas para innumerables actividades diarias, se pondría en peligro la veracidad de la información en Internet. Peor aún, personas se formarían con ideas equivocadas y lo extenderían.
La solución está en desacelerar el desarrollo de las IA y tomarse un tiempo para poner las cosas en orden
El cese del desarrollo de las IA no se exige que sea indefinido. El tiempo que piden las grandes figuras en tecnología es de tan solo seis meses para empezar a pensar en lo que también es relevante. Esto es, las medidas de seguridad para tener en control hasta dónde llegarán las IA y una normativa robusta que haga posible el proteger al mundo ante cualquier impacto generado por esta avanzada tecnología.
No solamente tener control, sino además protección para los usuarios. Después de todo, las IA como ChatGPT no quedan exentas del peligro de los cibercriminales, que también las pueden aprovechar para el robo de datos y otros delitos importantes.
Los entes gubernamentales también necesitan tener intervención frente a este tema. La tecnología de las IA no puede continuar en manos inexpertas o de poca autoridad, cuyo control es débil y podría escapárseles en cualquier momento. Lo ideal, según los expertos, es que se establezca un canal de comunicación entre desarrolladores y entes gubernamentales para garantizar un control adecuado y confiable.
Para Musk y muchas otras figuras famosas, el potencial de la nueva tecnología es inmenso y prometedor. Pero debe transitar un proceso cuidadoso para que el cambio que genere la inteligencia artificial en el mundo no sea otra cosa más que positivo. ¿Atenderán los laboratorios a esta petición?
Fuente | Futureoflife
