AIに、判断を明け渡さない Don't hand your judgment to AI

AIエンジニアとして、私は毎日AIを使っています。アプリも作るし、AIそのものの仕組みも独自に研究しています。便利だと心から思う。でも使い込むほど、はっきり見えてきた境界線があります。 As an AI engineer, I use AI every day. I build apps with it, and I research how it works under the hood. I genuinely find it useful. But the more I used it, the clearer one boundary became.

この一線を見失うと、人は静かに判断を手放していきます。なぜそうなるのか。まず、AIが何をしているのかという仕組みの話から始めます。 Lose sight of that line, and people quietly let go of their judgment. Why does this happen? Let's start with what AI actually does.

① AIは「知っている」のではなく、「それっぽく続けている」① AI doesn't "know" — it "plausibly continues"

AIは、誰かが書いた膨大な文章を学習しています。そして質問を受けると、その文脈の中で「次に来そうな言葉」を確率で選んで並べている。乱暴に言えば、それだけです。意味を理解して答えを「知っている」のではなく、もっともらしい続きを生成している。 AI has learned from enormous amounts of text that people wrote. When you ask it something, it picks the next likely words by probability within that context, and lines them up. Bluntly, that's it. It doesn't "know" an answer by understanding meaning — it generates a plausible continuation.

だから、もっともらしいけれど事実ではないものを、堂々と作ります。実際、私自身がこのサイトの文章を準備しているとき、AIが提示した「実在しない研究論文」を、危うくそのまま引用しかけました。著者名も年号も要旨も完璧に整っていた。でも、どこにも存在しなかった。 So it confidently produces things that look right but aren't true. In fact, while preparing the text for this very site, I nearly cited a "research paper" the AI offered me — one that does not exist. The authors, the year, the abstract were all perfectly formed. Yet it was nowhere to be found.

これは「AIがたまにミスをする」という話ではありません。確率で言葉を続けている以上、構造的にそうなるという話です。だからAIが出典や数字を出してきても、それが本物かどうかは、人が一次情報まで見に行って確かめないといけない。（このエピソードの詳細は私たちの思想に書きました。） This isn't "AI occasionally slips up." It's that continuing words by probability makes this structural. So even when AI gives you a citation or a figure, whether it's real is something a person has to verify against the original source. (I wrote about this episode in detail on our philosophy page.)

② 「素材」としては優秀。でも「判断」は別物② Excellent as material. The judgment is a different thing

仕組みがそうだからといって、AIが使えないわけではありません。むしろ逆です。発想を広げる、視点を増やす、要約する、たたき台を作る──こうした「素材を出す」仕事ではAIは本当に優秀です。私も全力で使います。 None of this means AI is useless. Quite the opposite. Broadening ideas, multiplying perspectives, summarising, drafting a starting point — at "producing material," AI is genuinely excellent. I use it to the hilt.

大事なのは、「信じてよりかかっていい場面」と「信じてはいけない場面」を分けること。同じAIの出力でも、扱い方がまったく変わります。 What matters is separating "what you can lean on and trust" from "what you must not trust." The very same AI output has to be handled in completely different ways.

左側は、間違っていても「たたき台」だから人が直せばいい。右側は、間違ったまま信じるとそのまま判断のミスになる。出典なら一次情報を、数字なら根拠を、固有名詞なら実在を──人が見に行って確かめる。ここを省かないことが、AIと付き合ううえでの最低ラインだと思っています。 On the left, even if it's wrong, it's a draft — a person can fix it. On the right, trusting an error becomes a mistake in judgment itself. Citations to the source, numbers to their basis, names to their real existence — a person goes and checks. Not skipping this is, I believe, the bare minimum for working with AI.

③ 本当に大事なのは、「分別」そのもの③ What really matters is the discernment itself

ここからが、私が一番言いたいことです。世の中の課題には、AIに任せていいものと、人の知恵でしか解けないものが、まだはっきりと両方あります。定型的な整理や下調べは前者。組織の中の感情、力関係、言葉にならない違和感がからむ問題は、後者です。 Here's what I most want to say. Among real-world problems, there are still clearly two kinds: those you can delegate to AI, and those only human wisdom can solve. Routine organising and background research are the former. Problems tangled with emotion, power dynamics, and unspoken unease inside an organisation are the latter.

そして──「目の前の課題が、どちらなのか」を見極めること自体が、人間にしかできない判断です。AIは「これは私には向かない問題です」と自分から線を引いてはくれません。確率的に、何にでも答えを返してしまう。だから分別する人がいなければ、人にしか解けない問題まで、AIの答えで上書きされていく。 And — discerning which kind the problem in front of you is, is itself a judgment only a human can make. AI won't draw the line and say "this one isn't for me." Probabilistically, it returns an answer to anything. So without someone to discern, even the problems only people can solve get overwritten by AI's answers.

Nacitがやっているのは、まさにここです。AIで視点や素材を広げたうえで、「これは人が引き受けるべき問題だ」と分別し、その先を人間の思考で深掘りする。経営の理想と現場の現実をぶつけて真因をあぶり出すクロス分析は、その「深掘り」の方法です。AIは入口で視点を増やすために使い、肝心の判断は最後まで人間に残す。 This is exactly what Nacit does. We use AI to widen perspectives and material, then discern "this is a problem a person must take on," and dig deeper from there with human thinking. Cross-Analysis — colliding leadership's ideal with the floor's reality to surface root causes — is our method for that deeper work. AI is used at the entrance to multiply viewpoints; the judgment that matters stays with humans to the end.

AIは、判断の主役ではなく、視点を増やす道具AI isn't the protagonist of judgment — it multiplies perspectives

まとめます。AIは確率で言葉を続ける道具だから、事実は保証しない。でも素材としては優秀。だから信じる場面と検証する場面を分ける。そして何より、その課題をAIに任せるのか人が引き受けるのか、という「分別」を手放さない。これが、私がAIと付き合うときの軸です。 To sum up: AI continues words by probability, so it doesn't guarantee facts. But it's excellent as material. So separate when to trust from when to verify. And above all, never let go of the discernment of whether to delegate a problem to AI or take it on yourself. That's my anchor in working with AI.

便利さに判断を預けない。考えるのは、最後まで人間。Nacitの診断は、その姿勢ごと設計しています。なぜそう言い切れるのか、根拠にした研究はこちらにまとめました。 Don't entrust your judgment to convenience. The thinking stays human, all the way. Nacit's diagnosis is designed around that stance. Why I can say this with confidence — the studies behind it are gathered here.

私たちの思想を読むRead our philosophy