またMicroconversionとMacroconversionというように、コンバージョンを二つに分けて考えている点も興味深い。3のConstruct a hypothesisでは、単純に思う仮説ではなく、ユザーインタビューやご意見フォーム、フォーカスグループなどを通じてより精度の高い仮説を挙げることを推奨している。この辺はかけられる工数によって実践していきたいと思った。
A question worth asking about every test is, “Would you be happy showing the winning variation to all of your traffic”
「勝ったテストパターンをすべてのユーザーに喜んで見せられますか?」と尋ねてみるべきです。
There’s a joke among A/B testing veterans that almost any variation of a button loses to a button that says “Free Beer.” ABテスト業界にはこんな冗談があります。どんなボタンバリエーションも「無料ビール」というボタンには叶わないと。
Running an A/B test without thinking about statistical confidence is worse than not running a test at all — it gives you false confidence that you know what works for your site when the truth is that you don’t know any better than if you hadn’t run the test
Data Drivenは取得したデータを信用してデザインを行うのに対して、Data Awareは参考程度に利用するといった意味である。いずれの方法も取得したデータを利用するが、そのデータの重要視具合が異なるのである。僕自身Data Driven Designという言葉を、「データに忠実にデザインする」という意味に受け取っていたが、かならずしもそうとは限らないのである。