A estas alturas, es evidente que la inteligencia artificial ya se nos está saliendo de las manos, pues es cada vez más inteligente y poderosa. Por eso, de manera sorpresiva, incluso los creadores de ChatGPT han propuesto crear entes reguladores.
Por medio de un comunicado de prensa, Sam Altman, Greg Brockman y Ilya Sutskever, encargados del departamento de IA responsable, Seguridad y Alineación de OpenAI, publicaron una carta en la que aseguran que el mundo tiene que ponerse de acuerdo sobre cómo controlar esta tecnología, ofreciendo algunas propuestas. Los autores plantean que la superinteligencia puede tener tanto ventajas como desventajas significativas y será más poderosa que otras tecnologías con las que la humanidad ha tenido que lidiar en el pasado. Por eso, para aprovechar su potencial en beneficio de la sociedad, es necesario gestionar los riesgos asociados.
Así, proponen 3 ideas principales para abordar el desarrollo de la superinteligencia de manera segura. En primer lugar, mencionaron que se requiere cierto grado de coordinación entre los principales esfuerzos de desarrollo para garantizar la seguridad y la integración adecuada de estos sistemas en la sociedad. Esto podría lograrse mediante la creación de un proyecto respaldado por gobiernos o limitando la tasa de crecimiento de la capacidad de la IA.
En segundo lugar, sugirieron la necesidad de una autoridad internacional similar a la Agencia Internacional de Energía Atómica (IAEA, por sus siglas en inglés) para supervisar los esfuerzos de superinteligencia. Esta autoridad tendría la capacidad de inspeccionar sistemas, exigir auditorías, establecer estándares de seguridad y limitar su despliegue y niveles de seguridad.
Finalmente, en tercer lugar, destacaron la importancia de desarrollar la capacidad técnica para hacer que la superinteligencia sea segura. Reconocieron que esto es un desafío abierto y se están dedicando esfuerzos de investigación para abordarlo.
Los trabajadores recordaron la importancia de la supervisión pública y la participación democrática en la gobernanza de los sistemas de IA más poderosos. Por eso, hicieron mucho énfasis en que las decisiones sobre los límites y los comportamientos predeterminados de los sistemas de IA deben ser tomadas por las personas en todo el mundo.
A pesar de los riesgos y dificultades asociados con la superinteligencia, sabemos que su desarrollo es necesario debido a los beneficios potenciales que puede brindar. Se espera que la superinteligencia mejore la calidad de vida, promueva el crecimiento económico y permita abordar problemas sociales de manera más efectiva. Detener su desarrollo sería complicado y requeriría medidas extremas, por lo que los autores concluyeron en que es muy importante hacerlo correctamente.
¿Qué te parece esta noticia? ¡Déjanos tus comentarios!
Deja tu comentario