Garlic LLM ejecuta un modelo Qwen de 9B de parámetros sin conexión en una PS4 modificada
La aplicación de código abierto se comunica directamente con la GPU de 2013 de la consola y alcanza hasta 43 tokens por segundo, según su autor.
Noticias con la etiqueta garlic llm
La aplicación de código abierto se comunica directamente con la GPU de 2013 de la consola y alcanza hasta 43 tokens por segundo, según su autor.