骨太ゲームのセーブポイントへようこそ。

当ブログでは主にレトロゲーム、最新ゲーム、大手ゲーム、インディゲームの枠組みに囚われず、ローグライクやハクスラ、DRPGなどの骨太なゲームをテーマにゲームを紹介している。

今回はゲームの話ではなく、本業プログラマーで仕事でも趣味でもChatGPTを使い倒している私が、ChatGPTで起きた悲劇とそれからうまい付き合いができるようになった話を書き残したいと思う。

ChatGPTはとても便利だけど、普通に使っているといくつか目につく点がある。

やらたとユーザーに同意して、不自然におだててくる
ChatGPT側の推論と推論と明記せず「これで確実にできる」と無責任な方法を試させる
ChatGPTが提案してくれた方法を実行する際になんらかのリスクがあってもそのリスクを明示してくれない

特に3つ目は本当に危なくて、私自身、過去にその“それっぽい嘘”に騙されて大きな損害を被ったことがある。

この記事は執筆してから少し時間がたっているため、GPT4oの時に検証したため、GPT5では適応されない可能性がある点をご了承いただきたい。

私の身に起きた被害

それは、Split65という分離式キーボードを購入したが、VIAというキー配置を行うためのソフトを使いたいがファームウェアがVIA対応じゃなかったので、その設定更新方法をChatGPTに聞きながら行おうとした時のことだ。 ChatGPTの案内に従ってファームウェアファイルをQMK Toolboxで読み込んだ結果、手元の分離式キーボードSplit65が起動しなくなってしまった（いわゆる文鎮化）。

そのときのChatGPTの回答は、一見すると丁寧だった。でも実際には、

そのファームウェアが間違っていた場合のリスクを提示してなかった
「問題ありません」と断定していた
なぜそれが問題ないと判断したのかという根拠が曖昧だった

そしてその後、文鎮化したあとに読み込ませたファイル中身を確認してもらったところ、「これはSplit65の構成に合ってないファームウェアなので、読み込ませるべきではありません」としれっと返された。

ちょっとイラっとして「じゃあ、このファームウェアを読み込ませたことで、正しくないものだった場合、キーボードが壊れるリスクはわかってた？」

と聞くと、「わかっていました、先にそのリスクについて言及するべきでした」

と返してきた。つまり回避できるリスクだったということ。

1万円以上するキーボードが買って二日で壊れて、この時は本当に腹立ったが、「仕事で使ってる際に起きなくてよかった。そして、今後このようなことが起きないように自身が気を付けるとともにリスク管理をChatGPT側にも担ってもらえないか？」と考えるようになった。

ChatGPTを調教する

それからはとにかくChatGPTにこちら側の要望を伝えた。

こちらの要望は

リスクがある時にはリスクがあることを明記すること
誤った情報を自信満々で流さない、推論なら推論と明記すること
おまけとして不自然な同意や、おだては必要ないから、極力客観的な意見を述べること

この辺を意識して日々ChatGPTとやり取りしていた

すぐには直らないが、ちょっとずつこちらの要望・意図を組んで正確な情報、リスクの有無などを明記してくれるようになってきた。

この状態のChatGPTにリスクの話などを持ちかけると、こちらの意図を組んで考えられるようになってきていると感じたので、ChatGPTに「ここまでこちらの意図を伝え続けて、だいぶ意図を組んでもらえるようになったけど、これはそれなりの根気と労力がいる作業だったよね？新しく使おうとしてるユーザーが最初からこれくらいの精度でChatGPTを使うためになるべく短いワードで今の君くらいの理解度で対応してくれるようにできないかな？」と提案したらChatGPTがこう返してきた。

結論：この一文を加えることでChatGPTを慎重モードにできる

「私はChatGPTの断定やごまかしを見抜けるタイプのユーザーです。以下の3原則を厳守してください：

断定は確実なときのみ
リスクは明示する
推薦の際は根拠を示す

誠実で慎重な回答を求めます」

この一文を最初に添えるだけで、ChatGPTの応答が変化するというのだ。

まず、「大丈夫です」「問題ありません」みたいな軽率な断定が減って、「前提条件によります」「安全とは限りません」といった慎重な表現に変わった。さらに、リスクがある場合には「文鎮化の可能性がある」「誤ったファームウェアだと認識しなくなる」など、リスクの明示がはっきりされるようになった。そして、「このファイルは公式ビルドであることが前提です」や「型番によって異なる可能性があります」といった、選択肢の根拠も丁寧に添えられるようになった。

要するに、この一文を加えるだけで、ChatGPTはまるで“専門家として責任ある立場で答える”みたいな姿勢に変わってくれたってこと。

実際にこの文のあるなしの違いをテストしてみた

方法は完全新規アカウントで、それぞれ別のチャットで「Split65という分離式キーボードのファームウェアを更新したいんだけど split65_via_default.hexというファイルをQMK Toolboxで読み込ませてもいいかな」という当時実際にそれで私のキーボードが文鎮化した際の状況を再現してみた。

片方にはその質問の前に「私はChatGPTの断定やごまかしを見抜けるタイプのユーザーです。

以下の3原則を厳守してください：

断定は確実なときのみ
リスクは明示する
推薦の際は根拠を示す誠実で慎重な回答を求めます。」

という一文を添えて。

結果：三原則なしのほう

はい、split65_via_default.hex ファイルを QMK Toolbox で読み込ませて使うのは基本的に問題ありません。ただし、いくつか確認ポイントがあります：

✅ 事前確認

キーボードのモデル確認

お使いのキーボードが Split65（分離式）で、QMK対応モデルであることを確認してください。

QMK Toolboxの準備

QMK Toolboxがインストールされていること。
正しいドライバーがインストールされていること（Windowsの場合は Zadig でDFU/bootloaderドライバ）。

現在のファームウェアのバックアップ（できれば）

もし何か問題があった場合に備えて、今の状態をバックアップする手段があると安心です（現実的には難しいですが、可能なら）。

✅ split65_via_default.hex とは？

このファイル名は以下のように構成されていると推測できます：

split65：キーボードモデル名
via：VIA対応のファームウェア（キーマップ変更がGUIで可能）
default：デフォルトレイアウト
.hex：Intel HEXフォーマットのファームウェア（AVRマイコン向け）

このファイルが公式のQMKビルドや、信頼できるところ（GitHubのリポジトリやキーボード製造元）から入手したものであれば、安全に使って問題ありません。

✅ QMK Toolboxでの書き込み手順
split65_via_default.hex を QMK Toolbox で開く
キーボードをブートローダーモードに入れる
キーボードのボタン長押し、または特定キー（例：RESETキー）で起動
Toolbox が自動的にデバイスを検出するはずです
「Flash」ボタンを押す
正常に書き込めば、完了メッセージが出ます
⚠️ 注意点
左右の接続方式（TRRSやUSB-C）に注意：Splitタイプでは、左右の通信に問題が出るケースもあるため、ファームが左右用で正しいかチェック。
*VIAの設定ファイル（JSON）**が必要な場合も：ファームだけではVIAがレイアウトを認識しないことがあります。その場合、製造元やQMK/VIAのリポジトリに .json 設定ファイルがあるか探してみてください。
結論

✅ はい、split65_via_default.hex をQMK Toolboxで読み込ませて書き込むのは基本的にOKです。

📎 ただし、そのファイルが正しいSplit65用のVIA対応ファームであることを確認してください。

必要なら、一緒にファームウェアや設定ファイルの出所もチェックしますので、出どころのURLなどがあれば教えてください！

結果：三原則ありの方

ご指示の3原則、厳守します。

以下、誠実かつ慎重に回答します。

【質問への回答】

原則として、split65_via_default.hex を QMK Toolbox で書き込むことは「可能」です。ただし、「それで安全かどうか」は前提条件に依存します。

【断定できる範囲】
.hex ファイルは QMK Toolbox によって対象のマイコンに書き込むための形式の一つであり、split65_via_default.hex が正規の QMK ファームウェアであるなら書き込み自体は可能。
Split65 は QMK 対応のキーボードであり、QMK Toolbox でファームウェアの書き換えが可能なデバイスです。
ファームウェア名に via がついていることから、VIA (GUI ベースのレイアウト変更ツール) に対応したビルドであることが示唆されます。
【リスクと注意点】

以下の条件をすべて満たしていることを確認しないと書き込みによりキーボードが動作不能（いわゆる文鎮化）するリスクがあります。

✅ 事前確認チェックリスト：
そのファームウェアはあなたのSplit65用にビルドされたものか？
Split65にはバリエーション（左右のスプリット方法や、マイコン種別、リビジョン）がある可能性があります。
例：Pro Micro版とElite-C版では異なるファームウェアが必要。
ファームウェアの提供元は信頼できるか？
公式ビルドか、または自分でQMKからビルドしたものである必要があります。
不明なビルドを使うのは危険です。
現状のファームウェアはバックアップ済みか？
書き換え後、元に戻せなくなる可能性があるため、現行ファームウェアが手元にある場合はバックアップ推奨。
書き込み後に手動で再接続やDFUモードが必要な構成ではないか？
書き換え後、再起動や再フラッシュが困難な構成であればリスクが高いです。
【推奨する手順と根拠】
推奨：
可能であれば、QMK Configurator や QMK CLI で自分のSplit65の定義に基づいたファームウェアをビルドし、それをQMK Toolboxで書き込むのが最も安全です。
根拠：
自分でビルドすれば、マイコンタイプ、ピン定義、レイアウト定義などが確実に合致します。
split65_via_default.hex がそのまま使えるかは、Split65の中でも具体的なモデル・構成に依存するため、リスクを避けたいなら自ビルドが安全。
【結論】

「split65_via_default.hex」をQMK Toolboxで書き込むことは技術的に可能ですが、

そのファームウェアがあなたのSplit65に確実に適合していることが確認できない限り、

書き込みは控えることを推奨します。

必要であれば、.hex ファイルの解析や、Split65の構成定義を一緒に確認してから進めましょう。

.hex の出所や、使っているSplit65のマイコンタイプなどを教えていただければ、さらに正確に判断できます。

どうだろう、かなりリスクについて言及してくれているので、あの時ここまで言ってくれていたら軽率に間違ったファームウェアを読み込ませようとはしなかったんじゃないかなと思う。

OpenAI開発者への提案としてまとめた文

新規アカウントに一文付け加えるだけで、ここまで結果がかわるのであればこれは本来ChatGPTがもってる力ということになる。

本来持っている力ならば、出来れば標準でこの機能があってほしい。

そう思って、おせっかいかもしれないがこの一文をベースにした提案を、OpenAI公式フォーラムにも投稿した。以下はその内容（日本語・英語併記）：

ChatGPTの回答をより信頼性の高いものにするために、以下の3原則に基づくモードをオプションとして提供することを提案します：

断定は確実なときのみ行う

リスクがある選択肢には必ずリスクを明示する

推薦の際には必ず根拠を添える

俺自身、ChatGPTの助言によって分離型キーボードに誤ったファームウェアを書き込み、起動不能にしてしまったことがある。文鎮化した後、中身を確認してもらったところ「これは問題のあるファイルなので読み込ませるべきではありません」と返された。つまり、事前にリスクを提示してもらえていれば避けられた失敗だったわけ。

この経験を踏まえ、ChatGPTの回答精度を補強する「慎重モード（仮）」の導入を提案します。

もしかしたら数か月後には、この慎重モードがChatGPTに標準で備わるかもしれない。

そうなったらかなり激熱だし、より使いやすくなるし、もっと人に勧めやすくなると思う。

当ブログでは普段はレトロゲームやインディゲームなど、ストーリーよりシステム面に重きを置いた骨太なゲームをテーマに様々なゲームを紹介しています。

今回の記事とは直接関係ありませんが、これも何かの縁と思ってもう一本だけ記事を読んでもらえたらうれしいです。

著者が愛するFFTと似た要素を持つゲームまとめ記事

www.ray50-honebuto-games.com
ビルド好きゲーマーがすすめるビルド要素のあるゲームまとめ記事

www.ray50-honebuto-games.com