Llevo un tiempo jugando con la placa Armsom AIM7, un modelo de SoM que incluye el chipset RK3588 que posee unidades NPU para poder mover modelos de IA de una forma más suelta. Es cierto que estaría más enfocada a cosas como reconocimiento de objetos en imágenes, pero los LLM pueden resultar de gran utilidad. Una de las cosas que más me gusta, es que es un proyecto Open Source y en su Google Drive ...