Joel Ponce de León, abogado y especialista en Inteligencia Artificial, analizó los nuevos debates sobre regulación, ciberseguridad y el desarrollo de sistemas capaces de tomar decisiones y ejecutar acciones con cada vez menor intervención humana. “Tenemos que levantar la pata del acelerador”, es una de las frases que resume la preocupación que atraviesa al sector.
La Inteligencia Artificial atraviesa una etapa de desarrollo que vuelve a poner sobre la mesa una pregunta que hasta hace pocos años parecía propia de la ciencia ficción: ¿hasta dónde puede avanzar la tecnología sin que los mecanismos de seguridad sean capaces de acompañar ese crecimiento?
El abogado y especialista en Inteligencia Artificial Joel Ponce de León se refirió a los últimos debates que se están dando dentro de la industria y señaló que algunos de los principales referentes del sector comenzaron a plantear la necesidad de desacelerar determinados procesos para permitir que los sistemas de ciberseguridad evolucionen a la misma velocidad.
Según explicó, la preocupación central está vinculada a que el desarrollo de la inteligencia artificial generativa está avanzando más rápido que las herramientas destinadas a controlar sus riesgos. “Estamos avanzando demasiado rápido”, resumió, al referirse al planteo de distintos referentes de la industria que reclamaron levantar el pie del acelerador.
Para Ponce de León, la discusión no pasa únicamente por frenar el desarrollo tecnológico, sino por generar mecanismos que permitan acompañarlo con seguridad. En ese sentido, cuestionó que existan proyectos de regulación que, a su entender, fueron elaborados sin contemplar adecuadamente el funcionamiento de las nuevas herramientas de inteligencia artificial generativa.
El salto hacia sistemas que actúan por cuenta propia
Uno de los aspectos que más llamó la atención durante la entrevista fue la evolución hacia modelos capaces de recibir un objetivo y desarrollar por sí mismos una serie de acciones para intentar cumplirlo.
Ponce de León explicó que algunos de los nuevos desarrollos están siendo puestos a prueba en entornos controlados y con determinados objetivos. En esos escenarios, cuando el sistema no puede alcanzar la meta inicialmente planteada, puede intentar encontrar alternativas para resolver el problema.
El especialista utilizó un ejemplo particularmente llamativo: un modelo que, trabajando inicialmente sin conexión a Internet, buscó mecanismos para acceder a la red cuando consideró que necesitaba hacerlo para cumplir con el objetivo que se le había asignado.
La situación permite dimensionar hacia dónde apunta una parte de la evolución de la IA: sistemas que ya no se limitan a responder una pregunta o ejecutar una instrucción puntual, sino que reciben una meta, elaboran pasos intermedios y buscan herramientas para alcanzar el resultado.
“Te doy un objetivo, se conecta sola, trabaja en base a ese objetivo y te devuelve un resultado en el cual vos no participaste de todo el proceso con la instrucción”, explicó Ponce de León.
El abogado aclaró que estos desarrollos todavía no reúnen necesariamente todas las características asociadas a una inteligencia artificial general, concepto utilizado para describir sistemas capaces de desempeñarse de manera amplia y flexible en diferentes tareas. Sin embargo, consideró que podrían representar uno de los primeros pasos concretos hacia ese escenario.
El debate, entonces, ya no se limita a discutir qué puede responder una inteligencia artificial. La pregunta empieza a ser otra: qué puede llegar a hacer cuando se le entrega un objetivo y se le permite decidir cómo alcanzarlo.
En ese contexto, la regulación y la ciberseguridad aparecen como dos de los principales desafíos. El desarrollo tecnológico continúa avanzando y, al mismo tiempo, crece la discusión sobre quién debe establecer los límites, cómo deben controlarse estos sistemas y qué nivel de autonomía debería permitirse.
Para Ponce de León, una de las primeras medidas debería ser establecer mayores controles sobre el acceso público a los modelos más avanzados, mientras se desarrollan herramientas de seguridad capaces de acompañar su evolución.
La discusión sobre la Inteligencia Artificial dejó así de ser una cuestión exclusivamente tecnológica. Ya involucra aspectos jurídicos, económicos, sociales y de seguridad que podrían modificar la manera en que las personas trabajan, producen información y toman decisiones en su vida cotidiana.
