こんにちは。NEO(x) の宮脇（@catshun_）です。
2024年もあとひと月程となりましたね。 今年は多くの企業から RAG に関するリリースが発表され、同時に AIエージェント の研究開発が盛んに行われた年だったかと思います。
現時点での AIエージェント の市場認知は未だ低いですが、OpenAI, Google, Anthropic の動向を見ると、2024年は技術者に認知され、2025年は事業開発者に認知され、2026年はマーケターに認知される という流れになるのでは、と社内でも話しています。
とはいえ、新しい技術を独学でキャッチアップするのは大変ですよね...。
ということで今回は、今後も盛り上がりが期待される RAG/AIエージェント をキャッチアップするのにちょうど良い実践本について紹介します 🦜📕
続きを読む
こんにちは。AI transformation(AX)の荒井（@yusaku_0426）です。
2024/10/09 に行われた『LangChain Meetup Tokyo #3』にて、弊社からAIエンジニアの伊藤と山中（@gura105）の2名が登壇しましたので、本記事では簡単にイベント概要を振り返ります。
続きを読むこんにちは。Algomatic CTO室 でインターンしている藤巻（@makiart13）です。 普段は、さまざまな業務の改善やPoCを行っています。
弊社Algomaticでは、定期的に技術系ミートアップやカンファレンスを開催しています。イベント運営は開催の1ヶ月前から準備を始め、登壇者とのコミュニケーション、会場手配、資料作成など多岐にわたるタスクが発生します。これらの作業は運営側のマインドシェアを恒常的に割きがちです。これら問題を解決するために、LLMの活用はもちろん、Slack、Notion、GASなどを活用した、イベント準備効率化ツールを作成、運用しています。
本記事では、そのイベント準備効率化ツールの中から、いくつかをピックアップして紹介します。
続きを読むLLM APIの最強の一角であるAnthropic Claudeにprompt cachingが実装されました。簡単に言うとプロンプトの先頭から指定の位置までをキャッシュしてくれて、キャッシュを利用できた場合はAPI使用料金と、APIでかかる処理時間が大幅に改善するというものです。
キャッシュ書き込みではコストが1.25倍（つまり25%アップ）になってしまいますが、キャッシュ読み込みではコストが1/10（ただしHaikuの場合だけは$0.25/1Mtokensが$0.03になるので厳密には違う）になります。
速度に関しても、コストのうち処理時間が支配的なLLMにおいて値段が1/10になることから察する通りの速度がでます。
LLMの使い方に依存するものの、prompt cachingを使いこなせば、少なくない事業インパクトをもたらす事は間違いありません。
続きを読む
