¿Por qué avanza la IA de manera desigual? Fundadores de a16z y Replit: la verificabilidad es la clave de la diferencia.

El conocido fundador de la firma de capital riesgo a16z, Marc Andreessen, y el fundador de Replit, Amjad Masad, dialogaron el 25 de octubre, centrándose en el estado actual del desarrollo de la IA. Andreessen señaló que los avances en la programación, el cálculo matemático y la simulación de fenómenos físicos son sorprendentes, pero hay un estancamiento en campos como la medicina y el derecho. Masad respondió que la clave no está en la dificultad, sino en la verificabilidad. Es decir, las tareas que pueden ser juzgadas objetivamente por su corrección avanzan más rápido, mientras que los campos más ambiguos son más difíciles de superar.

La IA tiene dos velocidades: la que puede verificar corre más rápido que nadie.

Masad primero revisa el método de entrenamiento del modelo. Los modelos de lenguaje tempranos solo miraban el texto y luego adivinaban la siguiente palabra. Aunque podían hablar, no razonaban realmente. Fue solo después de la introducción del Aprendizaje por Refuerzo (Reinforcement Learning, RL) que la IA comenzó a aprender en entornos verificables. Él explica:

“Como los problemas que implican depurar un programa, tener pruebas unitarias, o que pueden generar resultados claros, la IA puede saber directamente si está correcta o incorrecta.”

Este método de entrenamiento con retroalimentación instantánea permite que la IA mejore rápidamente su capacidad de resolución de problemas.

¿Por qué los campos de la medicina y el derecho no pueden seguir el ritmo?

Andreessen preguntó: “¿Y en los campos de la medicina y el derecho? ¿Por qué parece que el progreso es tan lento y hay fenómenos de estancamiento?” Masad respondió:

“Porque por ellas, no hay una única respuesta.”

Masad pone un ejemplo, el diagnóstico médico puede tener múltiples causas y cambios en el curso de la enfermedad, las decisiones legales también pueden variar debido a las diferencias entre jueces y casos, es decir, son demasiado flexibles y no tienen una respuesta estándar clara. Esto hace que el modelo sea difícil de auto- verificar y no pueda establecer un ciclo de retroalimentación.

Aunque se puede asistir al modelo a través del aprendizaje por refuerzo con retroalimentación humana (RLHF), eso sigue siendo una evaluación subjetiva, no tan directa y clara como las matemáticas o la programación.

(Nota: El aprendizaje por refuerzo basado en la retroalimentación humana (RLHF) es una técnica de aprendizaje automático (ML) que utiliza la retroalimentación humana para mejorar los modelos de ML y aumentar la eficiencia del autoaprendizaje.)

La verdadera clave no es la “dificultad” sino la “verificabilidad”.

Andreessen organizó sus observaciones y dijo: “Por lo tanto, el punto no es si el problema es difícil o no, sino si se puede confirmar la respuesta correcta.” Masad expresó:

“Sí, la explosión de la IA en programación y matemáticas no se debe a que sea más simple, sino a que se pueden verificar los resultados.”

Por ejemplo, al escribir un programa, siempre que el programa pueda compilar y pasar las pruebas, la IA puede recibir inmediatamente retroalimentación de “respuesta correcta”, lo que permite al modelo practicar automáticamente miles de veces al día y evolucionar rápidamente.

¿Qué otros campos tienen verificabilidad?

Las dos personas enumeraron varios campos en los que la IA ha avanzado más rápidamente:

Matemáticas y física: hay ecuaciones claras y resultados de simulación.

Química y biología: como el plegamiento de proteínas, secuencias de genes, que se pueden verificar mediante experimentos o simulaciones.

Robot: El éxito o fracaso de la misión se puede cuantificar directamente.

Estos pertenecen al ámbito de “verificación objetiva”, por lo que se convierten en la curva de aprendizaje más pronunciada de la IA en la actualidad.

La IA que programa despegará primero, mientras que la medicina y el derecho aún están en camino.

Masad dijo en su resumen de puntos:

“La IA que escribe programas volará alto primero, seguida de las matemáticas, la física y la química. Pero en campos más abstractos como la medicina y el derecho, todavía hay que avanzar lentamente.”

Andreessen también estuvo de acuerdo:

“Este es un fenómeno natural. La IA estalla primero en áreas que se pueden cuantificar, y tardará un momento en los ámbitos donde el juicio humano es ambiguo.”

¿Por qué el progreso de la IA es desigual? a16z, fundador de Replit: la verificabilidad es la clave de la diferencia. Apareció por primera vez en Chain News ABMedia.