El proyecto comenzó en 2019, pero se aceleró después de que Microsoft firmara un acuerdo multimillonario de colaboración con OpenAI.
OpenAI podría gastar hasta $700,000 dólares diarios en el mantenimiento de su chatbot, ChatGPT. Esto se debe a la infraestructura tecnológica costosa requerida para ejecutar la inteligencia artificial (IA) detrás del chatbot.
La mayor parte de los costos se destinarían al mantenimiento de los servidores, según la firma de investigación de semiconductores SemiAnalysis.
El modelo GPT-3 utilizado por ChatGPT requiere una gran cantidad de potencia informática para calcular las respuestas de los usuarios.
Los costos operativos podrían ser aún mayores después del lanzamiento de GPT-4, según explicó Dylan Patel, analista jefe de la consultora, a The Information.
El acuerdo con Microsoft
Aunque la capacitación de modelos de lenguaje grandes, como ChatGPT, puede costar a OpenAI decenas de millones de dólares, los gastos operativos superan esta cantidad.
Para las preguntas y consultas de los usuarios, ChatGPT utiliza "inferencia", un proceso que según otro informe publicado por SemiAnalysis, excede los costos de capacitación semanalmente. Además, a medida que aumenta el uso y el número de usuarios, aumentan los costos.
Microsoft está trabajando en un chip de IA llamado Athena para acelerar el desarrollo de modelos como ChatGPT y reducir los costos de ejecución.
El proyecto comenzó en 2019, pero se aceleró después de que Microsoft firmara un acuerdo multimillonario de colaboración con OpenAI.
El trato requería que OpenAI ejecutara sus modelos exclusivamente en los servidores en la nube Azure de Microsoft.
Hasta ahora, los modelos de IA de Microsoft se ejecutaban en los chips de Nvidia. Más de 300 empleados de Microsoft están trabajando en el nuevo chip de IA, que ya se está probando internamente.
© Copyright Impresora y Editorial S.A. de C.V. Todos los derechos reservados