Nel panorama attuale dell'Intelligenza Artificiale, sembra esserci una dicotomia forzata: o usi le API dei giganti (OpenAI, Anthropic, Google) e accetti di inviare i tuoi dati oltreoceano, o sei tagliato fuori dall'innovazione.
La narrazione dominante spinge verso il Cloud. È facile, è immediato, è potente. Tuttavia, in Weirdoo stiamo osservando un fenomeno interessante. Non sono i clienti a frenare per paura del GDPR o dell'AI Act. Al contrario, molte PMI sono disposte a prendersi rischi enormi pur di prototipare in fretta e vedere l'effetto "wow".
Il nostro ruolo di partner tecnologico, però, non è assecondare l'entusiasmo ceco, ma costruire architetture che reggano nel tempo. E spesso, la risposta ingegneristica migliore non è nel Cloud, ma nel "Locale". In questo articolo analizzeremo perché spostare l'inferenza in casa (On-Premise o Private Cloud) non è solo una questione di privacy, ma di performance, costi e, soprattutto, di Ownership.
Contrariamente a quanto si crede, il muro del GDPR non è sempre il primo ostacolo che i clienti ci mettono davanti. Anzi, spesso la dinamica è opposta e molto più pericolosa. Ci troviamo a dover fare noi da "freno", spiegando che inviare PII (Personally Identifiable Information) — codici fiscali, abitudini di acquisto, dati di profilazione — a un endpoint pubblico negli USA non è una strategia sostenibile.
Con l'entrata in vigore definitiva dell'EU AI Act, le regole del gioco sono cambiate. Non basta più "chiedere il consenso" nel banner dei cookie. Se il tuo e-commerce usa l'AI per fare profilazione avanzata (ad esempio per determinare se un utente è idoneo a un pagamento rateale "Buy Now, Pay Later"), potresti rientrare nella categoria dei sistemi High-Risk. Questo significa:
Ignorare questi punti per la fretta di andare online espone a sanzioni che fanno sembrare quelle del GDPR una multa per divieto di sosta (fino al 7% del fatturato globale).
Prendiamo un caso classico che vediamo oggi, nel 2026. Il settore e-commerce in Italia è in una fase di stagnazione/consolidamento. I costi di acquisizione clienti (CAC) sono alle stelle, la competizione coi marketplace cinesi è brutale e i margini sono ridotti all'osso.
In questo scenario, un Direttore Marketing o un CEO di una PMI ha un dilemma:
In un mercato che non cresce, il CAPEX fa paura. Nessuno vuole immobilizzare capitali. Quindi il cliente spinge per l'Opzione A: "Ma sì, facciamo un test veloce, poi vediamo". Il problema è che il "test veloce" diventa definitivo. E sei mesi dopo ti trovi con un'infrastruttura illegale, non conforme all'AI Act, e totalmente dipendente da un fornitore esterno.
La risposta non è bloccare l'innovazione urlando "AI ACT!", ma architettare il dato prima che tocchi l'AI. In Weirdoo lavoriamo sulla Pseudo-anonimizzazione irreversibile on-premise. Prima che il dato lasci il server del cliente per andare verso l'AI (o prima che entri nel modello locale), viene spogliato di ogni riferimento diretto alla persona. L'AI vede pattern comportamentali ("Utente X ha comprato pannolini"), non identità ("Mario Rossi, Codice Fiscale Y, vive a Milano").
Inoltre, proponiamo spesso un approccio ibrido: usiamo modelli locali molto piccoli (ed economici) per fare la prima scrematura e pulizia dei dati, riducendo drasticamente il volume di informazioni sensibili che deve essere processato dai modelli più grandi.
Parliamo pure di prestazioni. C'è un mito diffuso secondo cui i modelli "Foundation" chiusi (GPT-4, Claude 3.5 Sonnet) siano sempre superiori. Dipende da cosa intendiamo per "superiore".
Se parliamo di ragionamento complesso e creativo, forse sì. Ma se parliamo di un'applicazione in produzione che deve classificare un ticket di supporto o estrarre un importo da una fattura, la latenza di rete è un killer silenzioso.
Analizziamo il ciclo di una chiamata API Cloud:
Confrontiamolo con un modello locale caricato in RAM (o VRAM):
Non c'è viaggio transoceanico. Non c'è congestione di rete. Su task specifici, un modello "piccolo" (7B o 8B parametri come Llama 3 o Mistral) che gira in locale batte un modello Cloud in termini di reattività percepita dall'utente finale.
Qui entra in gioco l'onestà intellettuale dell'ingegnere. Serve davvero una rete neurale da miliardi di parametri per decidere se una recensione è positiva o negativa?
Spesso, in Weirdoo, dimostriamo che per task di classificazione o regressione, un modello di Random Forest, un Support Vector Machine (SVM) o una semplice regressione logistica non solo sono sufficienti, ma sono ordini di grandezza più veloci. Stiamo parlando di modelli che girano CPU-only, con consumi energetici irrisori e latenza zero. L'innovazione non è usare il martello più grosso, ma quello più adatto al chiodo.
"Fare AI in locale" non significa necessariamente comprare armadi rack da 100.000€. La democratizzazione dell'hardware e del software open source ha reso accessibili architetture che due anni fa erano impensabili.
Ecco cosa usiamo concretamente in Weirdoo per i nostri clienti e per noi stessi:
C'è un aspetto che viene spesso sottovalutano finché non è troppo tardi: la Censura Algoritmica.
I grandi modelli Foundation (GPT, Claude, Gemini) sono sottoposti a processi massicci di RLHF (Reinforcement Learning from Human Feedback) per renderli "sicuri" e "allineati". Ma allineati a cosa? Alle policy di PR di una Big Tech che ha il terrore di finire sui giornali per uno scandalo. Nonostante spesso il lavoro fatto su queste temi sia encomiabile e anche “open”, basta guardare a quanto Anthropic condivida sul tema, il focus resta limitare i danni a livello aziendale.
In un contesto aziendale, questo "allineamento" diventa spesso un bug bloccante. Abbiamo visto modelli Cloud rifiutarsi di processare:
Se il tuo processo di business dipende da quell'API, e l'API decide che il tuo input viola la sua "Safety Policy" (che cambia ogni settimana senza preavviso), la tua azienda si ferma. Il tuo software risponde con un errore 400 o con un moralistico "I cannot fulfill this request". Sei in ostaggio di una black box che non puoi debuggare.
C'è poi una questione di valore aziendale (Enterprise Value).
Infine, c'è il rischio reputazionale. Quando integri un'API esterna, non controlli l'output al 100%. Se il modello "allucina" o risponde in modo inappropriato, il cliente vede il tuo logo, non quello del provider.
Avere il modello in casa ("in-house") ci permette di inserire logit bias, grammatiche costrittive e layer di controllo deterministici che garantiscono che l'output sia sempre conforme al tono di voce e alle regole del brand.
Essere "paranoici" riguardo all'AI non significa essere contro il progresso. Significa voler costruire asset aziendali solidi.
In Weirdoo crediamo che il futuro dell'AI Enterprise sia ibrido: Cloud per la prototipazione rapida e per task generalisti a bassa criticità; Locale (o Private Cloud) per i processi core, i dati sensibili e le alte performance.
Costruirsi questa flessibilità richiede competenze: bisogna saper gestire container, ottimizzare l'uso della VRAM, scegliere il modello Open Source giusto. Ma il risultato è un'infrastruttura che è tua, veloce e sicura.
Se il tuo obiettivo è solo fare una demo, usa le API. Se il tuo obiettivo è costruire un vantaggio competitivo difendibile, inizia a guardare cosa puoi far girare sui tuoi server.
