何が起きたと報じられているか
まず前提を確認します。以下は VTDigger の取材にもとづく報道であり、当局の調査結果や公式に確認された安全上の所見ではありません。利用者の証言と、会社側の説明の両方が含まれています。
5月の導入直後から訴えが出た
Kinney Drugs は2026年5月、患者との連絡と再調剤サービスのためにAIの仮想アシスタントを導入しました。会社はこれを、連絡と効率を改善する手立てとして打ち出しています。
その直後から、利用者が問題を経験し始めたと報じられています。VTDigger の取材に応じたのは、両州の店舗にまたがる12人近くの利用者です。挙げられた症状は具体的でした。医師が薬を発注してから薬局が処理するまでの遅延が伸びた。長年の顧客アカウントを見つけられない。誤った用量を注文した。再調剤の準備ができても知らせが来ない。
不満が募った結果、薬局そのものを離れた人もいれば、地方では他に選べる薬局が乏しいために、信用していない仕組みを使い続けざるを得ない人もいると伝えられています。
Earlier this summer, amid a nationwide wave of AI technology entering healthcare systems, Kinney Drugs implemented a new AI assistant for prescription refill services, lauding the tool as a way to improve communication and efficiency. But customers say it’s doing the opposite. ／ Kinney Drugs implemented the AI virtual assistant for patient communication and refill services in May. Soon after, its customers began to experience problems, they said. ／ According to nearly a dozen Kinney Drugs customers across its stores in Vermont and New York who spoke to VTDigger, the AI rollout has coincided with a range of problems. Delays have grown between physicians ordering drugs and the pharmacy processing them. The system has been unable to locate longtime customer accounts, has ordered incorrect dosages and has failed to notify customers when refills were ready for pickup. And these inaccuracies are raising privacy concerns amongst customers. ／ Their mounting frustrations toward the AI is leading some customers to leave the pharmacy entirely, they said, and forcing others to continue using a system they distrust due to a lack of pharmaceutical options in rural areas. — 導入の経緯と、利用者が報告した問題の内容に関する記述より
押しボタン式の電話が、対話するAIに変わった
変化の中身も具体的です。以前は、押しボタン式の音声案内に電話をかけ、キーパッドを操作して薬剤師にたどり着く仕組みでした。取材に応じた利用者は、この旧来の仕組みは滑らかに動いていて問題は無かったと述べています。
新しい仕組みでは、その入口が対話型に変わりました。ツールは創業者にちなんで Burt と名づけられ、テキサス州のAI医薬企業 Synerio が構築したものです。
利用者からは、キーパッドで用件を入力する選択肢が無いという指摘が出ています。麻酔科医として医療に携わってきた利用者は、他の電話のやり取りではキー操作が使えるのが常だったとしたうえで、Burt と話すか、薬を受け取らないかのどちらかになっていると述べたと報じられました。
薬局の規約自体にも留保が置かれています。Burt は正確でも完全でも最新でもない可能性があり、誤解を招いたり誤りや抜けを含んだりすることがあるという記載です。
Previously, to refill a prescription at Kinney Drugs, a customer would call a prompt-based, touch-tone, phone system that would give them the opportunity to navigate a keypad to reach a pharmacist. Customers who spoke to VTDigger said this old system worked smoothly, and they had no problems. ／ The AI assistant, which Kinney Drugs named Burt, after its founder, was built by third-party AI pharmaceutical company, Synerio. ／ Synerio, the Texas-based technology company that supplies the AI tool to the pharmacy. ／ In the pharmacy’s terms, Kinney Drugs states that “Burt may not be accurate, complete or up-to-date and may be misleading or contain errors and omissions.” ／ “Burt demands that you talk to him,” said Maria Aveni, a Vermont Kinney Drugs customer who has worked in healthcare as an anesthesiologist. “There’s no option to use a keypad to enter what you want to, which has been the case with other telephone interactions I’ve had. So it’s more of a talk to Burt or don’t get your drugs.” — 旧来の仕組みとの違い、ツールの提供元、キー操作の代替が無いという指摘に関する記述より
会社側は「初期の不便は認識している」と回答
会社側の説明も報じられています。名前を明かさない Kinney Drugs の担当者は VTDigger への書面で、一部の患者が、とくに展開の初期に Burt に不便を感じたことは認識していると述べ、一件ずつ懸念を確認し、各患者へ連絡を試みているとしました。
導入の理由についても明確な回答があります。繰り返しの作業をなくし、薬剤師の時間を空けるためです。
A Kinney Drugs representative who did not want to be identified by name, wrote in a statement to VTDigger that the company is “aware that some patients have experienced frustration with Burt, especially during rollout,” and that it is reviewing each concern and attempting to reach each patient. ／ While customers said they were confused over why Kinney Drugs switched to the AI, the company cited a clear reason: to eliminate repetitive tasks and free up time for its pharmacists. — 会社側の回答と、導入の目的に関する記述より
会社は「電話が減った」と見ている。それで負荷は下がったのか
この事例のいちばん学べる部分は、目的と結果のずれ方にあります。
会社側は目的が達成されつつあると見ている
会社の側は、目的が達成されつつあると見ています。ある責任者は、確かに効いていて、電話をとても良い形でさばいてくれるので、薬局への電話が減っていると述べたと報じられました。
ここで押さえておきたいのは、通話件数の実測値は報道に出ていないという点です。示されているのは会社側の受け止めであって、検証された数字ではありません。それでも、会社が見ている指標は「薬局にかかってくる電話の本数」だったことは読み取れます。
Its leaders believe the AI has helped in achieving this goal, with one director saying that “it’s definitely doing the trick and handling those phone calls in such a nice manner that it’s reducing the calls to our pharmacy.” — 導入目的が達成されつつあるという会社側の評価に関する記述より
ところが窓口での相談は増えた
一方で、利用者側の経験はしばしば逆の結果を生んでいると伝えられています。AIで問題に行き当たった多くの人が、助けを求めて薬剤師を頼るようになったという指摘です。
バーモント州では、慢性的な人手不足で薬剤師がすでに過重な負担を抱えているとも書かれています。取材に応じた利用者のひとりは、すでに負荷のかかっている職員の生産性を落としているとし、長く世話になってきた職員への忠誠心から、これは自分にとって金銭的な問題にとどまらず、職員に対する人間味を欠いた扱いだと述べました。
ここに構造があります。会社が見ていたのは「電話の本数」で、目的だったのは「薬剤師の時間を空けること」でした。前者は改善したと会社は受け止め、後者は逆に振れた可能性がある。窓口の相談は電話の統計に乗らないため、指標だけを見ていると成功に見えてしまいます。AIを入れる前後で、どの数字を見れば目的の達成を判定できるのか——ここを決めずに導入すると、同じずれが起きます。
But customers' experience with the tool has led to an oftentimes opposite effect. As they encounter problems with the AI, many are turning to pharmacists more for help. In Vermont, pharmacists are already overburdened due to a chronic worker shortage. ／ “It’s slowing down productivity of an already stressed staff, and because that staff has treated me for a long time, and I feel loyalty, it isn’t just a financial concern for me, it’s an inhumane way to treat the staff,” Aveni said. — 利用者が薬剤師を頼る場面が増えたという指摘と、職員の負担に関する証言より
事前の周知が無かったという証言
もうひとつ挙げられているのが、導入前の説明です。取材に応じた複数の利用者によれば、Kinney Drugs は導入前にこのツールについて連絡していなかったとされています。
新しい再調剤の仕組みに同意した覚えがある人もいれば、再調剤の電話をかけてAIの声を聞くまで、新しいツールが入ったことに気づかなかったという人もいました。導入そのものより、知らされないまま接点が変わったことが不信につながっている構図が読み取れます。
According to Aveni and other customers who spoke to VTDigger, Kinney Drugs did not communicate about the tool before implementation. ／ While some customers recalled signing onto a new refill system earlier this summer, others said they didn’t realize the company implemented the new tool until they called for a refill and heard the AI voice. — 導入前の周知が無かったという証言に関する記述より
同意とデータの扱いをめぐる指摘
不正確さと並んで、報道の後半で扱われているのがプライバシーです。
電話番号を渡した時点で同意になる
規約の建て付けが指摘されています。電話番号を Kinney Drugs に提供した顧客は、自動的にこのツールとのやり取りに同意したことになるとされ、あとから利用しない選択はできる、という形です。
薬局のプライバシー方針は、AIアシスタントと同じ月に公表されました。そこには例として、顧客の保護対象となる健康情報が、薬局の運営を改善するためにAIツールで使われる場合があると開示されています。
同意という枠組み自体への批判も紹介されています。バーモント大学のコンピュータ科学の准教授は、Kinney Drugs の利用規約が11の文書にまたがっていることを挙げ、人々は自分が何に同意しているのかまったく理解していないので、同意という考えに規制の土台を置くのは現実的な解決ではないと述べました。
規約やプライバシー方針が複数の文書に分かれている場合、まとめて読める形に落としてから確認すると見落としが減ります。
Any customer who provides their telephone number to Kinney Drugs automatically consents to interacting with the tool, though they may later opt out, according to the pharmacy’s terms. ／ The pharmacy’s privacy policy, released the same month as the AI assistant, discloses, for example, that customers’ protected health information may be used in AI tools to improve the pharmacy’s operations. ／ Near, the UVM computer science professor, said that regulations like the new Vermont law are inherently flawed simply because they are based on consumer consent. Kinney Drugs, for instance, spreads its terms and conditions across 11 documents. ／ “I think that people absolutely do not understand what they’re consenting to, and so basing our regulation and what we think is okay on the idea of consent is not a realistic solution to these kinds of privacy concerns nowadays,” he said. — 同意の扱い、健康情報の利用に関する開示、規約が11の文書に分かれている点と、同意を土台にした規制への批判に関する記述より
守るべき相手が1社から2社に増える
技術面の指摘も明快です。バーモント大学の研究者は、プライバシーの観点では、AIツールを供給する会社が顧客の健康データにアクセスできるようになるため、以前の再調剤の仕組みより悪いと述べています。
ヴァンダービルト大学医療センターの生物医学情報学の教授は、より一般的な形で説明しました。自分の医療提供者とだけやり取りするなら、その相手のセキュリティに頼ればよい。多くの組織とやり取りが生じるようになれば、そのすべてのセキュリティ問題を心配しなければならない。
会社側の回答も併記されています。担当者は、複数層のセキュリティ管理を維持し、機微なデータを守るための情報セキュリティ技術に投資しており、データ侵害が起きた場合に対応する手順も整えていると述べました。
米国の医療プライバシー法 HIPAA との関係では、第三者の事業者が保護対象の健康情報を安全に扱うことを定める契約（事業提携契約）があれば、その事業者は契約上、安全に扱う義務を負うとされています。担当者はこの契約の内容の共有は断りつつ、適切な契約は維持していると回答しました。Synerio は取材に応じなかったものの、自社のページでは HIPAA に準拠するよう作られていると述べているとされています。
Joseph Near, an associate professor of computer science at the University of Vermont, said that, privacy-wise, the AI tool is worse than the pharmacy’s previous refill system because this additional company, Synerio, now also has access to customers’ health data. ／ “If I just interact with my healthcare provider, I’m relying on the security that they have. If they now start interacting with many other organizations, I now have to start worrying about all the security issues with each of them,” Bradley Malin, a professor of biomedical informatics at Vanderbilt University Medical Center, said, referring to Synerio. ／ The Kinney Drugs representative said that the company maintains “multiple layers of security controls,” invests in “information security technologies to help protect sensitive data” and has the protocols in place to respond to potential data breaches. ／ However, as long as the pharmacy has a business associate agreement — the contract under HIPAA that establishes that third-party vendors securely handle protected health information — the companies are contractually obliged to handle data securely. The Kinney Drugs representative declined to share the agreement, citing an inability to disclose private vendor contracts, but wrote that the company “maintains the appropriate agreements.” ／ Synerio did not respond to multiple requests for comment, but also says on its webpages that the tools it creates are built to be compliant with HIPAA. — AI事業者の追加によるデータ接触範囲の拡大、会社側のセキュリティに関する回答、HIPAA上の事業提携契約に関する記述より
規制が追いついていないという指摘
法制度の側も取り上げられています。複数の弁護士が VTDigger に対し、技術が規制を追い越していて、消費者保護が薄い状態になっていると語ったとされます。
バーモント州では新しいデータプライバシー法 S.71 が2026年6月16日に知事の署名を受けましたが、施行は2年後です。プライバシーの擁護者からは、施行までの空白に加えて、法そのものが消費者を守るには弱すぎるという声も出ています。法案について証言したバーモント州の弁護士は、仮に施行されていたとしても、この状況を必ずしも対象にできるとは思えないと述べました。
第三者のAIを使うことのリスクは、業界側の公式文書にも表れています。Kinney Drugs の薬局管理システムを担う McKesson は公開の提出書類で、第三者のAIツールや解決策への依存は、順守上の欠落を含む、自社の管理が及ばないリスクにさらす可能性があると記しています。
As AI pops up in healthcare systems across the country, several lawyers told VTDigger that the technology is outpacing regulation, leaving consumer protections thin. ／ In Vermont, a new data privacy bill, S.71, signed by Gov. Phil Scott on June 16, takes effect in two years. That delay creates a gap in compliance to a bill that privacy advocates say is already too weak to protect consumers. ／ “Even if it were in effect, I’m not sure that it would necessarily cover the situation,” said Ryan Kriger, a Vermont lawyer and resident who testified on the bill. ／ While Synerio did not respond to VTDigger’s questions about customer protections, Kinney Drugs’ pharmacy management system, McKesson, acknowledged them in public filings, writing that “reliance on third-party AI tools and solutions may expose us to risks that are outside of our control, including compliance gaps.” — 規制が技術に追いついていないという指摘と、第三者AIへの依存リスクに関する開示より
まとめ：AIを顧客の入口に置く前に決めておくこと
この事例を「AIが使えない」という話として読むと、得るものがありません。報じられている内容から取り出せるのは、導入の設計で先に決めておけたはずの3点です。
ひとつめが指標の置き方です。目的は薬剤師の時間を空けることで、下がったのは電話の本数でした。目的そのものを測る数字を決めておかないと、代理の指標だけが改善して成功に見えます。
ふたつめが逃げ道の確保です。キー操作で従来どおり進む道が残っていれば、AIが聞き取れなかった人も従来の水準までは戻れました。新しい経路を足すのと、既存の経路を置き換えるのは別の意思決定です。
みっつめが事前の周知です。導入前に説明が無かったという証言が、不信を大きくしています。同じ機能でも、知らされていたかどうかで受け取られ方は変わります。
規制の側も動いています。EU AI法の適用開始やコロラド州のAI法は、透明性と説明の義務を事業者側へ課す方向です。医療分野でのAI利用については、皮膚の3D撮影のように学習データの質を正面から論じる取り組みも出てきました。ツールの性能より先に、どこに置き、何を測り、どう知らせるかを決める。今回の報道は、その順番を間違えたときに何が起きるかを具体的に見せています。
