Investigamos la frontera porque todavía no sabemos dónde se encuentra su límite
Conoce las áreas de investigación de Superinteligencia.dev: capacidades, agentes, autonomía, AGI, superinteligencia, alineamiento y colaboración humano-IA.
Estudiamos cómo evoluciona la inteligencia artificial
La inteligencia artificial está dejando de ser únicamente una tecnología capaz de generar respuestas para convertirse progresivamente en sistemas que pueden razonar sobre problemas, utilizar herramientas, mantener información, planificar acciones y participar en tareas cada vez más complejas.
Superinteligencia.dev investiga esta evolución.
Nuestro objetivo es comprender cómo están cambiando las capacidades de los sistemas de inteligencia artificial, qué limitaciones mantienen y qué avances podrían conducir hacia formas de inteligencia más generales y autónomas.
No partimos de la premisa de que la inteligencia artificial general (AGI) o la superinteligencia artificial (ASI) vayan necesariamente a existir. Las consideramos preguntas abiertas de investigación.
Por eso estudiamos el camino desde las capacidades que podemos observar actualmente hacia escenarios que todavía pertenecen al terreno de la hipótesis.
Un mapa para investigar la frontera
La evolución de la inteligencia artificial no tiene por qué seguir una trayectoria lineal.
Pueden aparecer nuevas arquitecturas, métodos de aprendizaje o formas de combinar sistemas que alteren profundamente nuestra comprensión actual. También pueden existir límites técnicos, económicos o conceptuales que hoy desconocemos.
Nuestro mapa de investigación no pretende predecir esa evolución. Nos ayuda a formular preguntas y organizar el conocimiento:
IA actual → capacidades avanzadas → razonamiento → memoria y aprendizaje → agentes → sistemas multiagente → autonomía → inteligencia artificial general → ¿superinteligencia?
Superinteligencia.dev organiza inicialmente su investigación alrededor de seis grandes áreas.
Capacidades
¿Qué pueden hacer realmente los sistemas de inteligencia artificial?
Antes de preguntarnos qué podría llegar a hacer la inteligencia artificial debemos comprender qué puede hacer actualmente.
Investigamos la evolución de capacidades como el razonamiento, la planificación, la resolución de problemas, las matemáticas, la programación, el lenguaje, la comprensión multimodal, la investigación y la utilización de herramientas.
También estudiamos sus límites.
Los resultados obtenidos en pruebas controladas no siempre se trasladan directamente a situaciones reales. Un sistema puede destacar extraordinariamente en determinadas tareas y fracasar ante problemas aparentemente sencillos.
Por eso nos interesa especialmente distinguir entre capacidades demostradas, capacidades aparentes y capacidades atribuidas.
Preguntas de investigación:
- ¿Cómo podemos evaluar las capacidades reales de un sistema de IA?
- ¿Qué significa que un modelo sea capaz de razonar?
- ¿Hasta qué punto puede generalizar conocimientos a situaciones nuevas?
- ¿Cómo evolucionan sus capacidades entre diferentes generaciones de modelos?
- ¿Dónde continúan apareciendo errores y limitaciones sistemáticas?
Agentes y autonomía
¿Qué cambia cuando una inteligencia artificial empieza a actuar?
Un modelo puede responder una pregunta.
Un agente puede recibir un objetivo, planificar acciones, utilizar herramientas, observar resultados y decidir qué hacer a continuación.
Esta transición introduce una dimensión fundamental: la autonomía.
Investigamos agentes de inteligencia artificial, planificación, utilización de herramientas, ejecución prolongada de tareas, delegación, coordinación y sistemas multiagente.
También queremos comprender qué ocurre cuando diferentes agentes especializados colaboran, compiten, supervisan su trabajo o distribuyen tareas entre ellos.
Preguntas de investigación:
- ¿Qué diferencia realmente a un agente de un modelo convencional?
- ¿Cuánto tiempo puede perseguir autónomamente un objetivo?
- ¿Cómo afectan los errores iniciales a una cadena prolongada de acciones?
- ¿Puede un conjunto de agentes superar sistemáticamente a un único sistema?
- ¿Cómo debemos supervisar sistemas con grados crecientes de autonomía?
Aprendizaje y evolución
¿Puede una inteligencia artificial aprender de su propia experiencia?
Los sistemas actuales pueden revisar respuestas, utilizar retroalimentación, trabajar con memoria y participar en procesos destinados a mejorar sus resultados.
Pero estas capacidades no deben confundirse automáticamente con aprendizaje autónomo o mejora recursiva.
Investigamos cómo los sistemas utilizan información procedente de experiencias anteriores, cómo pueden evaluar y corregir su propio trabajo y hasta qué punto diferentes mecanismos permiten mejorar su comportamiento.
Nos interesan especialmente la memoria, la autoevaluación, la autorrevisión, el aprendizaje mediante retroalimentación, el aprendizaje entre agentes y la generación de información útil para procesos posteriores de entrenamiento o mejora.
Preguntas de investigación:
- ¿Puede un sistema detectar de manera fiable sus propios errores?
- ¿La autoevaluación mejora realmente sus resultados?
- ¿Qué aporta la memoria al comportamiento de un agente?
- ¿Pueden varios sistemas aprender de los resultados obtenidos por otros?
- ¿Qué significaría realmente que una IA participara en su propia mejora?
Inteligencia general y superinteligencia
¿Qué significaría superar la especialización?
La inteligencia artificial general (AGI) y la superinteligencia artificial (ASI) son dos de los conceptos más importantes y, al mismo tiempo, más controvertidos del futuro de la inteligencia artificial.
No existe una única definición universalmente aceptada de inteligencia artificial general. Tampoco existe actualmente evidencia de que se haya alcanzado una superinteligencia artificial.
Por ello, esta área no pretende anunciar su llegada.
Pretende investigar qué significan estos conceptos y qué evidencia necesitaríamos para poder utilizarlos con rigor.
Estudiaremos diferentes definiciones de inteligencia general, métodos para evaluar capacidades amplias, posibles transiciones desde sistemas especializados hacia sistemas más generales y las hipótesis planteadas sobre una inteligencia que pudiera superar ampliamente las capacidades humanas.
Preguntas de investigación:
- ¿Qué entendemos por inteligencia artificial general?
- ¿Puede medirse la inteligencia mediante una única escala?
- ¿Qué capacidades serían necesarias para hablar de AGI?
- ¿Dónde terminaría la AGI y empezaría una hipotética superinteligencia?
- ¿Existen caminos plausibles desde sistemas generales hacia sistemas ampliamente superiores a las capacidades humanas?
- ¿Qué evidencia permitiría diferenciar un avance real de una afirmación extraordinaria sin suficiente respaldo?
Alineamiento y seguridad
Sistemas más capaces también plantean nuevas preguntas de control
Incrementar las capacidades de un sistema no garantiza que su comportamiento sea más comprensible, predecible o compatible con los objetivos humanos.
Esta cuestión adquiere especial importancia cuando los sistemas pueden utilizar herramientas, tomar decisiones y ejecutar secuencias prolongadas de acciones.
Investigamos los problemas relacionados con alineamiento, supervisión, interpretabilidad, robustez, auditoría y control de sistemas avanzados.
También estudiaremos cómo evaluar comportamientos inesperados y hasta qué punto las personas pueden supervisar adecuadamente sistemas capaces de resolver problemas que resultan difíciles para sus propios supervisores.
Preguntas de investigación:
- ¿Cómo sabemos por qué un sistema ha tomado una determinada decisión?
- ¿Podemos detectar comportamientos problemáticos antes de desplegar un sistema?
- ¿Cómo supervisamos agentes que realizan miles de acciones?
- ¿Qué ocurre cuando evaluar una respuesta es más difícil que generarla?
- ¿Cómo cambia el problema del control a medida que aumentan capacidad y autonomía?
Para Superinteligencia.dev, seguridad y capacidades forman parte del mismo problema de investigación.
Humanos y superinteligencia
El futuro de la inteligencia puede no ser exclusivamente artificial
Una pregunta fundamental queda fuera de cualquier comparación sencilla entre personas y máquinas:
¿qué ocurre cuando ambas trabajan juntas?
Los sistemas de inteligencia artificial pueden ampliar capacidades humanas de análisis, programación, investigación, creatividad y toma de decisiones.
Las personas, a su vez, proporcionan contexto, objetivos, experiencia, criterio y supervisión.
Investigamos esta interacción y las nuevas formas de inteligencia que pueden surgir de ella.
Nos interesan la colaboración humano-IA, la amplificación cognitiva, la inteligencia colectiva, la investigación asistida por IA y las consecuencias de sistemas cada vez más capaces sobre ciencia, educación, organizaciones, trabajo y creación de conocimiento.
Preguntas de investigación:
- ¿En qué tareas funciona mejor una persona asistida por IA que una IA trabajando autónomamente?
- ¿Qué capacidades humanas se vuelven más importantes cuando aumenta la capacidad de las máquinas?
- ¿Puede la combinación de personas y diferentes sistemas producir capacidades superiores a las de cualquiera de sus componentes?
- ¿Cómo cambia la toma de decisiones cuando una parte creciente del análisis es realizada por máquinas?
- ¿Qué debemos seguir reservando deliberadamente a la responsabilidad humana?
Quizá algunas de las formas de inteligencia más relevantes del futuro no puedan clasificarse simplemente como humanas o artificiales.
Investigar significa también experimentar
Estas seis áreas proporcionan el marco conceptual del proyecto.
El Laboratorio de Superinteligencia.dev permitirá llevar algunas de sus preguntas al terreno experimental.
Diseñaremos experimentos concretos para estudiar razonamiento, autoevaluación, memoria, agentes, colaboración entre sistemas, autonomía y cooperación humano-IA.
Cuando resulte posible, documentaremos la pregunta, hipótesis, metodología, sistemas utilizados, resultados, limitaciones y condiciones necesarias para reproducir el experimento.
Algunos protocolos podrán repetirse con nuevas generaciones de modelos.
De esta manera podremos observar no solamente qué puede hacer la inteligencia artificial, sino también cómo evolucionan sus capacidades a lo largo del tiempo.
Evidencia antes que predicción
Investigar tecnologías que evolucionan rápidamente exige distinguir cuidadosamente entre lo observado y lo esperado.
Por ello, nuestro trabajo diferencia entre evidencia consolidada, evidencia emergente, resultados experimentales propios, hipótesis, predicciones y especulación.
Las afirmaciones extraordinarias requieren evidencia adecuada.
Y reconocer que todavía no conocemos una respuesta no constituye una debilidad.
Es parte del proceso científico.
Superinteligencia.dev no pretende adivinar el futuro de la inteligencia artificial.
Pretende contribuir a comprenderlo mientras se construye.
Una investigación permanentemente abierta
Nuestras áreas de investigación evolucionarán junto con la propia tecnología.
Algunas preguntas actuales pueden dejar de tener sentido. Otras pueden resolverse. Y probablemente aparecerán problemas que hoy todavía no sabemos formular.
Por eso este mapa no debe entenderse como una estructura cerrada.
Es nuestro punto de partida para estudiar una transformación cuyo alcance todavía desconocemos.
Investigamos la frontera porque todavía no sabemos dónde se encuentra su límite.
Nota editorial: Superinteligencia.dev utiliza herramientas de inteligencia artificial como apoyo en tareas de investigación, análisis, estructuración y elaboración de contenidos. Todo el contenido publicado está sujeto a dirección, revisión y supervisión humana. Las afirmaciones científicas y técnicas se contrastan, siempre que resulta posible, con fuentes primarias y documentación verificable. La responsabilidad editorial sobre el contenido publicado es humana.