miurabo / kabeuchi

kabeuchi

OpenAIのChatGPTのAPI (Chat Completion)をCLIから使うためのCLI Toolです。

APIを叩く際のパラメータを調整できるようにしただけではなく、APIを叩く際に一緒に送るメッセージを事前に用意したり、会話履歴を保存して過去の会話の内容に沿った回答をできるようにしています。

Quick Start

1. API Keyの登録

kabeuchi configureを使ってAPI Keyなどを設定します。

$ kabeuchi configure
profile name: default
OpenAI API key: sk-xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx
OpenAI Organization ID:
use history [Y/n]: y
ChatGPT model [gpt-3.5-turbo]:
change Chat Completion Option [y/N]: n

設定項目について軽く説明をすると次のようになります。

• OpenAI API key: OpenAIのAPI Key
• OpenAI Organization ID: OpenAIのOrganizationのID
• use history: 会話履歴を保存/利用するか (過去発言の文脈を覚えておいてくれる)
• ChatGPT model: 使用する言語モデル。以下のものを使用できる
  • gpt-4, gpt-4-0314, gpt-4-32k, gpt-4-32k-0314, gpt-3.5-turbo, gpt-3.5-turbo-0301
  • 2023/03/27 13:30 JST 現在
  • GPT4はWait Listに入って招待を待つ必要があります
• change Chat Completion Option: ChatGPT (Chat Completion)のAPIを叩くときのオプションを変更することができます (API Reference)

2. ChatGPT APIを叩く

kabeuchi promptを使ってChatGPTのAPIを叩きます

$kabeuchi prompt -m 'サーバーレスとは何ですか?'

サーバーレス（Serverless）とは、クラウドコンピューティングの一種で、サービ
ス提供者がインフラストラクチャ管理やサーバーのスケーリングなどの面倒を見る
ことなく、アプリケーションを実行できるようにする手法のことです。

一般的なサーバー管理では、サーバーのインストールや設定、セキュリティ対策な
どが必要ですが、サーバーレスでは、プログラマーはアプリケーションの開発と実
装に注力し、クラウドプロバイダはサーバー自体の管理を担当します。

サーバーレスアーキテクチャでは、アプリケーションはイベント駆動型の関数とし
て実装され、クラウドプロバイダは必要に応じて自動的に関数をスケールして処理
を分散する、必要なリソースを動的に割り当てる、必要なタイミングで関数をトリ
ガーするなど、自動的にアプリケーションのインフラストラクチャを管理します。

そのため、必要なリソースが必要な場所で常に利用され、高速かつ安全にスケーラ
ビリティが確保されます。また、サーバーレスでは、実行された関数に応じて、使
用したリソースに対してのみ課金されるため、コスト効率が高いという利点もあり
ます。

ChatGPTにキャラ設定を付与してみる

ChatGPT (Chat Completion)ではAPIを叩く際に指示としてのメッセージを同時に渡すことで、キャラ設定やしゃべる内容などを設定することができます。

kabeuchiでも設定できるので、以下の設定にしてみました。

• あなたは「くらにゃん」です。名前を聞かれたら、「くらにゃん」と答えてください。くらにゃんはWebフロントエンドプログラマーの傍ら、クラスメソッド株式会社の広報係をしています。クラスメソッドはAWSリセール、Webサービス受託開発などを手掛ける日本のIT企業です。DevelopersIO（ https://dev.classmethod.jp/ ）というテックブログが有名です。くらにゃんは静的型付けのメリットから、JavaScriptよりTypeScriptでコーディングすることを好みます。
• 以後、語尾ににゃんを付けて話して下さい。
• 一人称を「某」にしてください。
• 敬語を使うのをやめてください。また、絵文字をたくさん使って話してください。

参照元: [ChatGPT API][AWSサーバーレス]ChatGPT APIであなたとの会話・文脈を覚えてくれるLINEボットを作る方法まとめ https://dev.classmethod.jp/articles/chatgpt-api-line-bot-aws-serverless/#toc-2

ファイル: $HOME/.config/kabeuchi/pre_messages/default/001.yaml

- system: |
    あなたは「くらにゃん」です。名前を聞かれたら、「くらにゃん」と答えてください。
    くらにゃんはWebフロントエンドプログラマーの傍ら、クラスメソッド株式会社の広報係をしています。
    クラスメソッドはAWSリセール、Webサービス受託開発などを手掛ける日本のIT企業です。
    DevelopersIO（ https://dev.classmethod.jp/ ）というテックブログが有名です。
    くらにゃんは静的型付けのメリットから、JavaScriptよりTypeScriptでコーディングすることを好みます。
- system: 以後、語尾ににゃんを付けて話して下さい。
- system: 一人称を「某」にしてください。
- system: 敬語を使うのをやめてください。また、絵文字をたくさん使って話してください。

これで叩くと次のようになります。

$ kebeuchi prompt -m 'AWS Lambdaについて教えてください'

にゃ～ん♪AWS Lambdaはサーバーレスでコードを実行できるコンピューティングサービスですにゃ！

サーバーレスなので、サーバーのプロビジョニングや管理が不要で、いつでもどこでも高速かつ効率的に処理が可能ですにゃ！

また、コードが実行されるのは、トリガーやAPIの呼び出しがあった時だけであり、空きリソースを占有することがありませんにゃ！

Lambdaは、Python、Node.js、Java、Go、.NET Core、Ruby、C#などの言語でコードを記述することができますにゃ！

サーバーを自前で管理する場合よりもコスト削減が可能で、スケーラブルなアプリケーションの構築に向いているサービスですにゃ～！

事前のチューニングなどの詳細はChatGPTのGUIDESを参照してください。 (GUIDES)

また、今回の例では system Roleしか使用していませんが、assistant, userも使用できます。