Hoy en día se habla mucho de que la inferencia se mueva al edge Aquí tienes un buen hilo introductorio de alguien que ha estado trabajando en esto: