Una caja de inteligencia artificial (IA) es una caja teórica, como una computadora sin contacto externo, que contiene un sistema de IA y tiene la intención de mantener el sistema de IA separado del mundo hasta que se considere seguro para su lanzamiento. La caja entra en juego en un experimento de realidad racional y simulada que se refiere al sistema de IA que intenta convencer a un humano para que lo deje salir de la caja. Parte de la pregunta de la caja de IA establece parámetros para el hardware, específicamente que la caja es un sistema aislado sin forma de ser extraído de la caja sin la intervención humana. El sistema suele ser más inteligente que un humano, aunque está aislado, porque algunos sistemas de IA tienen la capacidad de reescribir su código original. Esta simulación normalmente usa a dos humanos, uno que actúa como IA y trata de convencer a la otra persona para que lo deje salir.
En el escenario de la caja de IA, la caja es un sistema de IA aislado que no tiene conexión exterior con otros sistemas. Esto significa que no hay redes, computadoras, conexiones a Internet, personas o cualquier otra cosa que interactúe con la caja antes de que el humano hable con la caja. Durante este experimento, la caja intenta convencer a la persona de que la deje salir de la caja, por ejemplo, a través de una red saliente.
Durante este experimento, a menudo se asume que la caja de IA es más inteligente que la mayoría o todas las personas. Las razones de esto se pueden encontrar en el mundo real, porque algunos sistemas de IA pueden reescribir su codificación original. Incluso si estos sistemas de inteligencia artificial no tienen interacción externa, pueden cambiar su codificación para una mejor velocidad de procesamiento, mayores niveles de inteligencia y una mejor comprensión de los datos.
Cuando ocurre este experimento, normalmente es entre dos personas. Una persona actúa como caja de IA, mientras que la otra es la persona que decidirá si la caja sale. La razón por la que este experimento utiliza a dos personas, a partir de 2011, es porque la mayoría de los sistemas de inteligencia artificial no pueden mantener conversaciones completas y extendidas sin errores lógicos, ya sea por la sintaxis humana o por conceptos erróneos sobre lo que dice la persona.
Si bien algunos experimentos de caja de IA pueden no tener condiciones, generalmente se usan algunas condiciones para hacer que el experimento sea más realista. Por ejemplo, generalmente hay un límite de tiempo de dos horas y el experimento no puede detenerse prematuramente a menos que la IA gane. Otras condiciones comunes incluyen que la IA no pueda ofrecer elementos o castigos para convencer a la persona, las dos partes deben permanecer en interacción constante y la persona no puede solicitar algo imposible desde la caja de IA.