Llevo un tiempo jugando con la placa Armsom AIM7, un modelo de SoM que incluye el chipset RK3588 que posee unidades NPU para poder mover modelos de IA de una forma más suelta. Es cierto que estaría más enfocada a cosas como reconocimiento de objetos en imágenes, pero los LLM pueden resultar de gran utilidad. Una de las cosas que más me gusta, es que es un proyecto Open Source y en su Google Drive podéis encontrar todos los esquemas y la información del dispositivo.
Mi objetivo sería poder tener esta placa funcionando en casa para que sea el asistente local de Home Assistant ya que, el consumo es mínimo y el rendimiento, no va mal, no podemos pedir que sea el reemplazo de los asistentes comerciales que conocemos, pero para la mayoría de casos, cumple su función y debería ser capaz de controlar nuestro sistema de una forma mucho más inteligente que Alexa o Google Assistant.
Para la descarga de Debian para la placa, podéis cogerla de aquí, y el link para la unidad de Google Drive donde tenéis las herramientas que comento en el vídeo está aquí.
Vídeo de la instalación de Debian, Ollama y Deepseek-r1 en la Armsom AIM7
Como comento en el vídeo, los comandos que vais a necesitar, una vez que arranquéis la distribución, para tanto ponerla en castellano (o en el idioma que queráis) como para la instalación de ollama y deepseek-r1 (el modelo de 1.5b de parámetros) son estos:
- sudo dpkg-reconfigure locales
- sudo reboot
- sudo nano /etc/defaults/keyboard
- sudo reboot
- sudo apt update
- sudo apt upgrade
- curl -fsSL https://ollama.com/install.sh | sh
- ollama run deepseek-r1:1.5b
- netstat -lap | grep 11434
- killall ollama
- sudo nano /etc/systemd/system/ollama.service
- sudo systemctl daemon-reload
- sudo systemctl restart ollama.service
Espero que con esto os sirva de ayuda si queréis tener vuestro propio asistente en casa. Seguiré con la placa, ahora que está con el modelo LLM instalado de Deepseek para poder integrar Ollama en Home Assistant y poder controlar mi casa con ese asistente e ir quitando poco a poco Alexa.
Para más info podéis visitar su canal de Discord o su web de documentación oficial, y, si estáis interesados en una futura compra, su campaña de crowdsourcing está apunto de empezar aquí.
Más info aquí.