1

Los mecanismos del Pensamiento en Cadena: Predicción de tokens y transparencia lógica

EvoClass-AI006Lecture 3
00:00

En esta sesión, avanzamos más allá de la invocación básica para comprender el motor matemático del razonamiento. Exploramos cómo Pensamiento en Cadena (CoT) transforma los modelos de lenguaje grandes de simples tablas de búsqueda en motores de razonamiento secuencial, aprovechando la ventana de contexto del transformador como una memoria de trabajo externa.

1. De la asignación directa a la probabilidad secuencial

En la invocación estándar, el modelo calcula la probabilidad de una respuesta basándose únicamente en la pregunta—$P(Respuesta | Pregunta)$. Para lógica compleja, este único "salto" suele ser demasiado grande. El Pensamiento en Cadena lo descompone en una secuencia: $P(y | x, z_1, z_2, \dots, z_n)$, donde cada $z$ es un paso intermedio de razonamiento que restringe al modelo hacia una conclusión más precisa.

2. Transparencia lógica y cómputo

El CoT es esencialmente un método de "desacelerar" el modelo. Al obligar a generar tokens intermedios, obligamos al modelo a asignar más ciclos computacionales a un problema. Esto crea una "huella verificable", convirtiendo el procesamiento interno del modelo en una ruta visible que puede auditarse, corregirse y estructurarse.

Estructura de plano manual
[Contexto/Tarea]Restricción: Requisito para derivación paso a paso Plano de razonamiento: 1. Paso 1 2. Paso 2 3. Paso 3 [Formato de salida final]
Type a message... (Disabled in Demo Mode)
Question 1
What is the primary mechanical function of intermediate tokens ($z$-tokens) in a Chain of Thought?
A) To make the AI sound more human.
B) To provide more text for the user to read.
C) To alter the conditional probability of the final output token.
D) To save energy during the model's forward pass.
Challenge: The Logical Intervention
Fixing a failing model.
Scenario: A model is consistently failing a multi-step math word problem by providing a wrong answer immediately. Your goal is to move beyond the "Think step-by-step" trigger.
Strategy
How can you use a "manual blueprint" to ensure the model doesn't skip critical logic in its context window?
Solution:
You must define a specific structure in the prompt, such as "Identify Constants -> Define Variables -> Perform Operations -> State Result," which forces the model to externalize each dependency before the final prediction.