OpenAI ha anunciado su primer modelo de razonamiento de código abierto, denominado gpt-oss-20b, un modelo de cadena de pensamiento que funciona directamente en dispositivos con procesadores Qualcomm Snapdragon. Es la primera vez que las capacidades de razonamiento de la inteligencia artificial de OpenAI están disponibles para su implementación directa en el dispositivo, operando fuera de la nube y a disposición de la comunidad de desarrolladores (es open source).
Qualcomm recibió acceso anticipado al modelo y lo sometió a pruebas de integración con sus herramientas AI Stack (una solución integral de inteligencia artificial para fabricantes de equipos originales y desarrolladores) y AI Engine (la plataforma de Qualcomm que integra elementos de hardware y software para ejecutar modelos de aprendizaje profundo). Los resultados fueron calificados por la compañía de San Diego (California) como «impresionantes», con un razonamiento completo de la cadena de pensamiento totalmente en el dispositivo. Es rápido, privado y abre la puerta a experiencias de IA personalizadas que se generan realmente en el teléfono. Hay que explicar que las aplicaciones de inteligencia artificial que tienen actualmente los smartphones necesitan conectarse al cloud, enormes granjas de servidores con un consumo energético monstruoso.
Los desarrolladores podrán acceder a gpt-oss-20b a través de Hugging Face, una plataforma que desarrolla herramientas computacionales para construir aplicaciones utilizando machine learning (aprendizaje automático), y Ollama, software que facilita la ejecución de modelos de lenguaje extenso (LLM, por sus siglas en inglés). Esto último también supone que ya están integradas funciones como la búsqueda web y el modo turbo.
Se trata de un gran punto de inflexión para la IA en los dispositivos y muestra hacia dónde se dirigen los asistentes virtuales. Desde el lanzamiento de ChatGPT, la IA generativa ha avanzado enormemente y está revolucionando industrias, tecnologías y la vida cotidiana. El ritmo de innovación es rápido, pero muchos avances en GenAI provienen de investigación fundamental desarrollada durante décadas. En Qualcomm fueron pioneros en ello y recuerdan que pasar de la investigación a la comercialización no es fácil, ya que escalar tecnologías en el mundo real enfrenta muchos desafíos más allá del trabajo teórico.