Qué equipo necesito para generar textos rápidamente en local con Llama-2, Mistral, etc.

En este vídeo vamos a descubrir cuál es el principal factor para determinar la velocidad de creación de texto en distintas plataformas. Compararemos el potencial de las tarjetas RTX, las CPU Intel o Ryzen y ordenadores más modestos como las Raspberry Pi.
Si quieres ver con mayor detalle la comparación de rendimiento entre los diferentes sistemas aquí tienes la gráfica que aparece al final del video.