LM Studio’s LM Link: IA Local em Todo Lugar

Principais Conclusões:

O novo recurso LM Link do LM Studio oferece aos usuários acesso remoto a modelos de IA locais rodando em seu próprio hardware, a partir de qualquer dispositivo, em qualquer lugar. Construída em colaboração com a Tailscale, a conexão é criptografada de ponta a ponta. Um emparelhamento ideal é um Dell Pro Max com GB10 em uma mesa rodando grandes modelos de código aberto enquanto o usuário trabalha de um laptop em trânsito. O recurso está em pré-visualização com forte demanda inicial.

Uma nevasca paralisou o Brooklyn, mas a equipe de engenharia do LM Studio não perdeu o ritmo. A tempestade tornou-se o teste perfeito para seu mais novo recurso, o LM Link. Lançado apenas 24 horas antes, ele deu aos seus engenheiros acesso remoto aos seus workstations Dell Pro Max com NVIDIA GB10 que estavam nas mesas em seu escritório do outro lado do bairro.

LM Studio é um aplicativo de desktop para executar modelos de linguagem grandes de código aberto em seu próprio hardware, para que os dados permaneçam em seu dispositivo. Com o LM Studio, seus chats permanecem privados e sua pilha de IA permanece totalmente sob seu controle. Kayden Fu, gerente de produto do LM Studio, descreveu a lacuna que o LM Link preenche. "Digamos que você tenha um GB10 em casa na sua mesa de escritório, mas gostaria de viajar com seu laptop. Você pode manter seu GB10 ocupado enquanto está em movimento e manter total privacidade e controle como se estivesse sentado em frente à sua mesa." Um Dell Pro Max com GB10 pode rodar modelos de código aberto de 120 bilhões de parâmetros com facilidade. Um laptop fino não consegue. O LM Link conecta os dois.

Dois Comandos e Você Está Conectado

A versão 0.4 do LM Studio introduziu o llmster, o daemon headless do LM Studio que executa todas as capacidades inteiramente no terminal sem uma interface gráfica. O LM Link se baseia nessa fundação e simplifica a configuração. Instale o llmster em seu workstation, execute dois comandos no terminal, e o workstation aparecerá no LM Studio em todos os outros dispositivos vinculados à sua conta.

A equipe do LM Studio construiu o recurso em estreita colaboração de engenharia com a Tailscale, usando seus primitivos de rede mesh para alcançar conexões criptografadas de ponta a ponta entre dispositivos, através de redes, sem expor seu dispositivo à internet pública. Fu abordou a questão da privacidade que ela sabia que os usuários levantariam. "Os servidores do LM Studio, assim como os servidores da Tailscale, não têm acesso a nenhuma comunicação, seja sua lista de modelos, chats ou configurações de carregamento de modelos. Não vemos nenhum deles. Uma vez que essa conexão é estabelecida entre seus dispositivos, ela é criptografada de ponta a ponta. Todo o resto viaja por um túnel criptografado que nenhuma das partes pode ler."

Mantenha-se Conectado com o LM Link

O LM Link ainda está em pré-visualização. A resposta inicial tem sido extremamente positiva. Fu disse que o volume de inscrições derrubou os servidores do LM Studio na manhã do lançamento. Os usuários têm conectado vários dispositivos minutos após obter acesso. Benchmarks e fluxos de trabalho multiusuário concorrentes nos workstations GB10 do LM Studio estão em desenvolvimento. Siga o LM Studio para atualizações de sua equipe.

Sobre o Autor:

Logan Lawler trabalhou em várias funções na Dell por 16 anos, incluindo vendas, marketing, merchandising, serviços e e-commerce. Antes de ingressar na Dell, Logan cresceu no Missouri e se formou na University of Missouri (MIZ!). Logan vive em Round Rock com sua esposa Ally, sua filha Calloway e seu labradoodle Truman.

Como parceira certificada, a VirtuAllIT pode auxiliar sua empresa na avaliação e implementação de soluções de IA que aproveitem o poder do hardware local e da conectividade segura, como o LM Link, otimizando seus fluxos de trabalho e mantendo a privacidade dos dados.