こんにちは！Helpfeelプロダクトエンジニアの寺本です。 5月28日から31日まで開催された人工知能学会全国大会（JSAI2024）に初めて参加してきました。場所は静岡県浜松市のアクトシティ浜松とオンライン。どんな体験ができたのか、早速振り返ってみます！

ブースでの活動

まずはHelpfeelのブースでの活動から。

Helpfeelブースでは、筆者のteramotodaikiと、学生時代にナレッジグラフの研究をしていたdaiiz、そして技術広報のhonchangで、Helpfeel社におけるAIの取り組みをご紹介しました。コア技術となる意図予測検索は、AIを使わずに高度な検索を提供する独自技術として生まれましたが、その発想に多くの来場者の方が驚かれていました。

また、最近では生成AIを検索などに応用する取り組みも進んでおり、こちらもみなさん興味深くお話を聞かれていました。弊社が考える生成AIの検索への応用について詳しく知りたい方は、ぜひこちらの記事もご覧ください↓

news.mynavi.jp

印象に残ったセッション

初参加ということもあり、多くのセッションを聴講させていただきました。どれも非常に学びがあり、今後の研究開発に活かせそうな話ばかりでした。詳しくは、大会当日に公開された以下のCosenseページをご覧ください。

scrapbox.io

個人的に特に印象的だったのは、2日目に発表された、相澤彰子氏による進化する大規模言語モデルのセッションです。このセッションは大規模言語モデルに関する非常に広範な内容をカバーしており、Embeddingやトークナイザーの仕組みについて初学者にも分かりやすい噛み砕いた説明がありました。

これまで何となく使っていたEmbeddingが、スパースなベクトルを次元圧縮したものだと知って腑に落ちました。また、トークナイザーについても、辞書サイズとトークン長がトレードオフの関係にあることが紹介され、非常に勉強になりました。

ナレッジグラフとLLM

別のセッションでは、ナレッジグラフに関する新しい知見も得られました。「ナレッジグラフ推論チャレンジ」というコンペティションが紹介され、ナレッジグラフがLLMのhallucinationを防ぐだけでなく、回答の根拠を説明するために非常に有用であることが説明されました。これを知って、ますます研究に興味が湧いてきました。

新時代のプロセッサ

会場を歩き回る中で特に印象に残ったのは、SambaNovaの展示です。Samba-1 Turboが爆速だと一部で話題ですが、なんとたった１ノード (8枚のSN40L RDU) で世界中のリクエストを捌いているのだそう。胸ポケットから取り出された小さなRDUに、12TBもの超大容量メモリが搭載されていると聞いて仰天しました。