前期はゲーミングPC教室（G-Lab）でローカルLLMの分担処理の実現を目指しました。つまり、ゲーミングPCに生成AIモデル（無料版）をインストールして、質疑応答するWebアプリインターフェースを構築し、連続して4つの質問をすると、4台のゲーミングPCでそれぞれ1つずつ処理するという形式です。まず、4台の教室のゲーミングPCにローカルLLM用モデルをインストールするところから始まり、4台のゲーミングPCの情報をやり取りするためのローカルネットワークを作ります。それをWebアプリケーションが動作するノートPCに接続できる環境を構築します。ノートPCがそれぞれの質問を入力するPCとなります。ただし、この場合は本来の分散処理（一つの質問を4台で同時並行して処理する）ではなく、4つの質問があったときに、一つの質問を一つのゲーミングPCにそれぞれ割り当てるという、並列らしきローカルLLMの実現でした。

しかし、夏休みから後期にかけて、本来の分散処理をMesh-LLMを使って実現しました。つまり、一つの質問を同時に4台が並列に処理するということです。これによって、型落ちゲーミングPC1台での生成LLMの処理時間が、単純計算で4台の場合はその約4分の1となります。Mesh-LLMを使うためのそれぞれのPCへの環境構築を自動で実施するためのバッチファイルを作り、かつ、分散処理のチューニングにチャレンジ中で、さらに速度と性能を改善する予定です。