Bye Bye Moore

PoCソルジャーな零細事業主が作業メモを残すブログ

2024-03-05から1日間の記事一覧

Ubuntu 22 LTSでOpenCALM をためす その2:チャット的な挙動

実際のところ スクリプト argから質問文をとって回答するようにします。 import sys import torch from transformers import AutoModelForCausalLM, AutoTokenizer def generate_answer(question): loadmodel = "cyberagent/open-calm-7b" model = AutoModel…