//AI in Azienda: Partiamo col BOT! Parte 4
- Max
- 5 mar 2024
- Tempo di lettura: 6 min
Rieccoci, spero abbiate meditato e siate pronti a proseguire la lettura dopo aver analizzato i punti precedenti. Infatti fino ad oggi abbiamo visto Cos’è un Assistente AI, di cosa si nutre e come è fatto.
Ho concluso il capitolo precedente lasciandovi un minimo di suspense su questi punti che vedremo adesso:
Adottare soluzioni Chiavi in Mano realizzate per questo scopo da grandi o piccole realtà emergenti.
Costruire una soluzione personalizzata.
Prima di decidere
Prima di ogni decisione è importante focalizarsi su un po' di parametri importanti da tenere a mente finchè cerchiamo una soluzione.
Gli elementi minimi, ma più importanti sono:
Scelta del modello: Dovremo poter scegliere il miglior Modello AI con cui operare.
Caricamento dei dati: Facilità di sincronizzazione dei nostri dati
Affidabilità del fornitore: A chi diamo i dati, cosa ne fa, ci fidiamo?
Analytics: Possiamo vedere come verrà usato il nostro assistente?
Sicurezza utenti: Possiamo gestire e segmentare gli utenti e le informazioni cui hanno accesso?
Tenetene conto durante la lettura!
1) Soluzioni AI Chiavi in mano
L'arrivo di Chat GPT ha generato un'esposione di nuova fauna in questo settore: centinaia di nuove soluzioni sono state rilasciate nell’ultimo anno, specialmente da piccole startup.
Sono tipicamente soluzioni cloud-based con un’interfaccia web su cui potrete configurare il vostro Assistente AI, fornire i vostri dati e fare i primi test. Spesso nel giro di pochi minuti.
Queste soluzioni vi permettono di realizzare soluzioni basate sulla vostra vostra knowledge base in modo estremamente rapido e senza che dobbiate avere conoscenze tecniche. Più o meno tutti vi permettono di:
creare un Assistente AI
dare un prompt base, le "Instructions" per guidare la ricerca dell’utente
Allegare documenti in vari formati: TXT, CSV, JSON, PDF (Ma ricordate cosa abbiamo detto l'altra volta sui PDF vero?), DOCX, XLS ecc. o caricare un intero sito web esistente.
Personalizzare l’aspetto grafico del vostro Assistente AI per portarlo sul vostro sito Web.
E con un importo mensile più o meno alto (Di solito si parte con 10EUR/Mese ma si arriva facilmente oltre i 100) , potrete ottenere una buona soluzione in pochissimo tempo e senza spendere troppi soldi.
Trovate qualche centinaio di esempi qui oppure qui (e spesso lo vedrete definito ancora come Bot, ma voi ormai sapete che è molto di più 🙂). Sono in tutto circa 300 soluzioni diverse fornite da società più o meno grandi; quindi la scelta non manca.
Quelli che mi piacciono di più?
Ad oggi GPT Trainer e Custom GPT (e non collaboro con loro! 🙂)
Detto questo, molte delle soluzioni chiavi in mano non lavorano con modelli AI proprietari ma utilizzano principalmente OPENAI e gli altri Foundation Models ad oggi disponibili come Mistral o i LLaMa. Spesso richiederanno la vostra API KEY in modo che possiate pagare i crediti direttamente ad Open AI o Google (che è una scelta che vi consiglio)
Punti di attenzione:
Lock-in con il produttore - Assicuratevi di valutare l'eventuale dipendenza da un unico fornitore e le conseguenze a lungo termine. Spesso si parla di startup che potrebbero improvvisamente sparire.
Affidabilità del produttore - Indagate sulla solidità e la reputazione del fornitore per garantire una partnership affidabile.
Lock-in con il modello di AI - Considerate la flessibilità nel cambiare o aggiornare il modello di AI in futuro.
Riservatezza dei dati - Controllate rigorosamente le policy di sicurezza e privacy dei dati per assicurare la conformità e la protezione.
Multimodalità - (Capacità di gestire input e output di testo, immagini, video, audio) non sempre possibile - Verificate se la soluzione supporta vari formati di comunicazione per soddisfare le vostre esigenze specifiche. Se ne avete. Ma se volete partire con un progetto semplice vi suggerisco di nuovo di rimandare questa parte.
E poi… tutte le altre cose noiose ma essenziali come la possibilità di integrarsi con i vostri sistemi, la scalabilità, la disponibilità di documentazione e supporto adeguate e ovviamente i costi, soprattutto quelli nascosti!
E i Big Players?
OPEN AI in questo momento la fa da padrona con l’ingresso sul mercato dei suoi GPTs e con gli Assistants. Ne ho parlato ampiamente in due post che vi consiglio di leggere.
Userei i GPTs per scopi di produzione in azienda?
NO!
Potrete quindi usarli internamente per i vostri prototipi; in questo sono eccezionali ma non li consiglio per un progetto di Assistente AI ‘esteso’ che debba andare in produzione al pubblico perché:
richiedono all’utente finale un abbonamento a GPT-Plus. E non vi permetteranno mai di scegliere soluzioni non fornite da OPENAI.
L’accessibilità è poco controllabile (Non potete decidere chi accede a cosa/quando)
Non dispongono, ad oggi, di dati di Analytics che vi permettano di capire se e come sono usati.
Anthropic o Google ad oggi non hanno ancora rilasciato soluzioni ‘ready to use’ anche se entrambe stanno lavorando alacremente alla soluzione. (Ps. È appena uscito Claude 3... ma non faccio in tempo a raccontarvelo!)
Microsoft sta invece rilasciando una tonnellata di cose diverse e in costante soluzione e si sta configurando come il partner di riferimento per il mondo enterprise. Ha rilasciato Copilot Studio, e più recentemente Azure AI Studio, soluzioni evolute e complesse che permettono, oltre a livelli di personalizzazione dell’interfaccia e del comportamento dell'Assistente AI, un livello ad oggi senza eguali di personalizzazione in merito alle regole di accesso ai dati in funzione degli utenti che lo utilizzano.
Non paga di tutto ciò Microsoft ha anche rilasciato da qualche giorno Copilot for Finance e Copilot for Sales. In più ha annunciato il suo accordo con Mistral, fornendo quindi semplice accesso anche a Modelli diversi da quelli di OPEN AI.
Diversamente dalle altre, a meno che il vostro team IT non sia piuttosto forte, richiedono l’intervento di un system integrator per poter essere adottati in modo efficace. Non ne parlo qui per non riempire tutto il post ma... sicuramente che lavoriate chiavi in mano o su soluzioni custom, diventa indispensabile, per sviluppare progetti strutturati, lavorare con partner in grado di supportarvi.
Anche Huggingface, una piattaforma specializzata nell’ospitare modelli di AI di ogni tipo, è uscita con HuggingChat, una soluzione che permette di creare i vostri assistenti, seppur con molte limitazioni su tutti i fronti (ad esempio non permette di caricare i vostri dati, di avere analytics, di fare azioni).
2) Costruire una soluzione AI personalizzata.
Se per la vostra azienda questo è un progetto strategico, potete scegliere la strada del ‘fatto in casa’. Ovvero: realizzare un chatbot “da zero” sfruttando uno o più LLM tra le migliaia disponibili (Che trovate qui, come visto in passato abbiamo superato i 500.000 modelli), addestrarlo come piace a voi, ospitarlo sui server che preferite, sviluppare da zero -o partendo da una soluzione open-weight, perchè di open source vero ce n’è ancora poco- la vostra soluzione completa.
Vi ho fatto paura? Dovreste averne un po’!
Per padroneggiare questo tipo di soluzioni avrete bisogno di un team di tutto rispetto ed andrete in contro a soluzioni che, pur essendo molto più controllabili, hanno costi decisamente diversi come si evince da questo grafico.
Quindi? La soluzione personalizzata valutatela per una Fase 2 e prima fatevi un po’ di esperienza!
Punti di attenzione:
Costi di implementazione - Oltre agli sviluppi iniziali, considerate i costi continuativi di manutenzione e aggiornamento.
Tempi di implementazione - La creazione di un chatbot personalizzato può richiedere mesi o addirittura anni, a seconda della complessità.
Complessità di progetto - Gestire l'integrazione di vari componenti e garantire che il sistema funzioni armoniosamente può essere una sfida.
Risorse umane qualificate - Avrete bisogno di sviluppatori, ingegneri del software e esperti di AI per costruire e mantenere il vostro chatbot.
Sicurezza dei dati - Proteggere le informazioni degli utenti e garantire la conformità con le normative sulla privacy dei dati è fondamentale.
Certezza dei risultati - Ho già visto fallire progetti di questo tipo a causa della loro complessità e a causa degli output sotto le aspettative. Maneggiateli con cura!
Nonché i punti noiosi ma importanti visti prima :-)
Compiti per casa (sì stavolta tocca farli)
Vi suggerisco di dare un’occhiata approfondita ai link che trovate in questi post, capire quali soluzioni ci siano e cosa sanno fare. Provare a metterli alla prova con alcuni dati e vederne i risultati.
Se siete agli inizi, inoltre, vi suggerisco, oltre ad un bel workshop, di fare un po’ di pratica con i GPTs di Open AI: sono semplici ed inclusi nell’abbonamento Plus o Teams e vi permetteranno di capire meglio di cosa avete bisogno.
E come si dice nel ciclismo: "Dai che siamo quasi arrivati!"
📢 Se hai pensieri o commenti, oppure se vuoi solo aiutare a diffondere queste riflessioni, condividi questa pagina con chiunque credi possa apprezzarla. La tua opinione conta tantissimo!
🚀 Per tenerti sempre aggiornato sui miei contenuti:
📝 Iscriviti al Blog Glimpse per non perderti neanche un aggiornamento
📚 Dai un'occhiata a 'Glimpse', il mio romanzo sull'intelligenza artificiale
🗓️ Contattami se vuoi organizzare un Workshop sull’AI o per qualunque idea.
A presto!
Massimiliano
Commenti