Wikibooks

Applicazioni pratiche di deep learning/Realizzare un chatbot(LLM)

< Applicazioni pratiche di deep learning
Applicazioni pratiche di deep learning
Categoria · Copertina · Sviluppo · Modifica il template
Applicazioni pratiche di deep learningApplicazioni pratiche di deep learning

Riconoscimento malattie ortaggiApplicazioni pratiche di deep learning/Riconoscimento malattie ortaggi Elaborazione del linguaggio naturaleApplicazioni pratiche di deep learning/Elaborazione del linguaggio naturale Riconoscimento recensioni positive AmazonApplicazioni pratiche di deep learning/Riconoscimento recensioni positive Amazon Identificazione tumori della pelleApplicazioni pratiche di deep learning/Identificazione tumori della pelle Diagnosi polmoniteApplicazioni pratiche di deep learning/Diagnosi polmonite Diagnosi alzheimerApplicazioni pratiche di deep learning/Diagnosi alzheimer Analisi elettrocardiogramma (ECG)Applicazioni pratiche di deep learning/Analisi elettrocardiogramma (ECG) Classificazione dei tweetsApplicazioni pratiche di deep learning/Classificazione dei tweets Segmentazione delle immaginiApplicazioni pratiche di deep learning/Segmentazione delle immagini Profilazione delle personeApplicazioni pratiche di deep learning/Profilazione delle persone Raccomandazione prodottiApplicazioni pratiche di deep learning/Raccomandazione prodotti Da voce a testoApplicazioni pratiche di deep learning/Da voce a testo Conversazione AIApplicazioni pratiche di deep learning/Conversazione AI Classificazione dei fioriApplicazioni pratiche di deep learning/Classificazione dei fiori Interrogare documenti(LLM)Applicazioni pratiche di deep learning/Interrogare documenti(LLM) Realizzare un chatbot(LLM)Applicazioni pratiche di deep learning/Realizzare un chatbot(LLM)

Creare un notebook ColabApplicazioni pratiche di deep learning/Creare un notebook Colab

Per realizzare un chatbot, cioè una chat personalizzata online o in privato, che risponda all'utente basandosi su documenti ad essa forniti, utilizzando il modello di intelligenza artificiale Llama 2 (Large Language Model LLM alternativo a GPT), rilasciato da Meta creatore di Facebook, occorre innanzitutto eseguire il seguente notebook su Google Colab, cliccando sul link descritto nella pagina Interrogare documenti(LLM) .

Alla fine del notebook Colab bisogna installare la libreria Gradio: 

!pip install --upgrade gradio

e poi eseguire le seguenti righe di codice : 

import gradio as gr

def get_lama_response(message,history):
  return qa.run(message)

gr.ChatInterface(get_lama_response).launch()

in tal modo si creerà un link pubblico della durata di 72 ore, dove funzionerà la chat, basata sui documenti forniti al modello di intelligenza artificiale Llama 2 . Tale link potrà essere reso permanente attraverso l'opzione share=True . Inoltre all'interno dello stesso notebook colab apparirà la chat che potrà essere utilizzata temporaneamente per fare testing.

modifica

Come creare un chatbot con gradio

Estratto da "https://it.wikibooks.org/w/index.php?title=Applicazioni_pratiche_di_deep_learning/Realizzare_un_chatbot(LLM)&oldid=456094"