ChatGPT: el gran problema de la IA son los celulares

Algunas empresas, como Qualcomm, ya están hablando de plataformas híbridas de inteligencia artificial en las que se utilicen tanto modelos como ChatGPT en la nube , como Gecko en el dispositivo móvil.

ChatGPT es una herramienta que resulta increíble, aunque presenta un inconveniente: para utilizarlo, es necesario estar conectado a su servicio en la nube.

OpenAI emplea numerosas y costosas GPUs profesionales para brindar el servicio a los usuarios, lo que puede resultar costoso tanto para proporcionar el servicio como para utilizarlo.

Inteligencia Artificial

OpenAi permite utilizar ChatGPT sin tener que registrarte

A esta competencia por ganar la batalla de los modelos de IA generativa, ahora se suma otro desafío: lograr que podamos usar estos modelos no solo en la nube, sino también de manera local (incluso sin conexión) en nuestros teléfonos inteligentes.

Teniendo en cuenta los grandes recursos que requiere ChatGPT, uno podría pensar que tener un chatbot con esa capacidad ejecutándose directamente en nuestro teléfono sería impensable, pero no lo es. De hecho, en las últimas semanas hemos conocido varios proyectos que apuntan hacia ese futuro.

Google y Gecko. Uno de ellos es Gecko, una de las opciones que Google propone para implementar su nuevo modelo LLM PaLM 2, el cual compite con el GPT-4 de OpenAI.

Según Google, Gecko es lo suficientemente compacto como para ejecutarse directamente en un teléfono inteligente, como lo demostraron al hacerlo funcionar en un Samsung Galaxy, por ejemplo. Aunque no presentaron una demostración de esta capacidad, su intención es clara.

Algunas empresas, como Qualcomm, ya están hablando de plataformas híbridas de inteligencia artificial en las que se utilicen tanto modelos como ChatGPT en la nube , como Gecko en el dispositivo móvil.

Cristiano Amon, CEO de la empresa, explicó en Financial Times que depender únicamente de los modelos en la nube sería muy costoso. Combinar el uso de estos modelos LLM capaces de funcionar en un teléfono inteligente permitiría reducir los costos. En Qualcomm, ya han experimentado con esta opción y lograron que Stable Diffusion se ejecute de manera nativa y local en uno de sus SoC.