Потому что идеи хранятся внутри АльфаГо, как и в мозгу любого человека, как в чёрном ящике. Мы способны обмениваться идеями благодаря наличию языка (точнее, грамматики), который является интерфейсом для передачи смыслов. АльфаГо не обучена излагать идеи. Поэтому мы можем только попытаться интерпретировать их, играя одну партию за другой и следя за её поведением.

Или по-другому. Представьте себе человека, попавшего в аварию и потерявшего способность двигаться вообще, даже двигать глазами или моргать. Но при этом сохранившего рассудок. Внутри него очевидно роятся идеи, но достать их из него (даже с помощью МРТ и других технологий) мы не сможем. Даже если сможем в реальном времени измерять нейронную активность в определённых зонах коры головного мозга.