Garlic LLM roda modelo Qwen de 9 bi de parâmetros offline em PS4 desbloqueada
O aplicativo de código aberto fala diretamente com a GPU de 2013 do console e chega a 43 tokens por segundo, diz o autor.
Notícias com a etiqueta goldhen
O aplicativo de código aberto fala diretamente com a GPU de 2013 do console e chega a 43 tokens por segundo, diz o autor.