In questa puntata ti parlerò del mio nuovo iPhone 16, di Perplexica un motore di ricerca IA locale e di LM Studio.

Note dell’episodio

Club del libro: "The Death of Expertise" ovvero “La conoscenza e i suoi nemici. L'era dell'incompetenza e i rischi per la democrazia” di Tom Nichols su Amazon;

1. Link citati

• Link al canale YouTube ed alla registrazione della puntata
• Link all'episodio 13
• Perplexity
• Perplexica
• SearXG
• LM Studio
• Hugging Face
• Link per iscriversi alla newsletter

2. Sinossi

Introduzione e comunicazioni di servizio:

• Gli argomenti trattati includono: il nuovo iPhone, Perplexica, e LM Studio.
• Si annuncia l'intenzione di dedicare puntate monotematiche a libri letti, partendo con "The Death of Expertise" da discutere entro il 10 marzo.

Nuovo iPhone 16:

• Filippo ha acquistato un iPhone 16 base con 128 GB di spazio, principalmente per il supporto futuro di Apple Intelligence.
• L'iPhone viene utilizzato principalmente per ascoltare podcast, telefonate, messaggi (senza Telegram e WhatsApp), hotspot, foto/video e musica.
• Viene sottolineato che l'iPhone è considerato l'acquisto meno soddisfacente in termini di rapporto qualità/prezzo.
• Il passaggio dall'iPhone 11 Pro al 16 non ha portato grandi differenze nelle foto, ma un miglioramento notevole nell'audio degli speaker.
• Le nuove funzioni video e foto 3D per Vision Pro sono considerate interessanti ma non fondamentali per l'uso che ne fa.
• Il nuovo processore è più veloce e ora supporta il 5G.
• L'installazione è stata fatta da zero, senza passaggio dati, per eliminare app inutilizzate e ottimizzare lo spazio.

Perplexica:

• Viene spiegato cos'è Perplexity, un motore di ricerca con intelligenza artificiale che recupera informazioni da diverse pagine web e le riassume.
• Perplexity è considerato un sistema utile che giustifica l'uso degli LLM, ma è criticato per rendere la ricerca una commodity e non incentivare la visita delle fonti.
• Perplexica è un progetto open source che si ispira a Perplexity, ma permette l'installazione locale tramite Docker.
• Perplexica utilizza SearXG, un aggregatore di motori di ricerca che rispetta la privacy.
• I risultati della ricerca vengono passati a un LLM (come ChatGPT o Lama) per generare risposte.
• L'autore ha sperimentato con Perplexica, notando miglioramenti nel tempo, ma anche limitazioni come la velocità e l'uso iniziale della lingua inglese.
• Per usare Lama con Perplexica, è stato necessario ampliare la finestra di contesto per gestire meglio i testi da riassumere.

LM Studio:

• LM Studio è un progetto per eseguire LLM offline sul proprio laptop, con un'interfaccia grafica semplice.
• Offre la possibilità di chattare con i documenti tramite RAG, selezionando se estrarre parti rilevanti o passare il documento intero all'LLM.
• Permette di avere un mini server locale compatibile con l'API di Open AI.
• Si interfaccia con Hugging Face per scaricare modelli LLM, compresi quelli ottimizzati per Apple Silicon (MLX).
• L'autore critica il fatto che non sia open source e che non sia chiaro il modello di business.
• Non supporta la lingua italiana nativamente, ma offre un repository GitHub per la traduzione dell'interfaccia.