論文や学会発表などで結晶の軸や面、反射などについて表記する際には、International Tables for Crystallography の記法を正しく理解して使いましょう。
以下では３桁の指数の例をすべて「100」とします。必要に応じて数字を変えて使ってください。
四角括弧で囲われている数字は、実空間における結晶軸の方向を表します。上記の例のように[100]であれば、これはa軸のことを表します。なお、この数字の間にはカンマは使いません。
このブラケット記法の際に使うような括弧で囲われている数字は、実空間における結晶軸の方向で、その結晶で等価な方向すべてを総称する場合に使います。
例えばcubicであれば、<100> は[100], [010], [001]を含むことになりますし、tetragonalであれば <100> は[100]と[010]を意味することになります。
論文等での使い所としては、例えば
This system has four-fold rotational symmetry about the <100> directions. (cubicで、特に4回軸があるタイプの結晶を指して)
などのような表現がありうると思います。
いわゆる「ミラー指数」というもので、「面」を表します。そのため、「方向」を表すものではないことに注意しましょう。結晶の外形的に平面が出ている場合や、ある結晶面を使って別の方向等を定義する際などに使います。例えば
The (100) surface of the sample was polished.
The ** vector was normal to the (100) plane of the sample.
などがあるでしょうか。上と同様に、数字の間にカンマは入りません。
また、この表記で(hkl)と表される面は ha*+kb*+lc*で表される逆格子ベクトルに垂直な面なので、()の中の数字を実空間の軸方向と考えてそれに垂直な面と考えるのは正しくない場合もありますので気をつけましょう。(例えばhexagonalの[100]方向は(100)面に垂直ではありません)
実空間の軸方向の例と同様に、結晶の対称性を考慮して等価なミラー面を総称する場合に使います。
X線や中性子等で特定のBragg反射を指して使います。例えば
We observed the 100 magnetic Bragg reflection emerging at low temperatures.
などのようになります。非常に紛らわしいのですが、これは磁気反射が100個あったと言っているわけではなく、one-zero-zero という指数の反射を観測したと言うことです。
上記の記法だけでは、実際に論文を書くにあたって困る事態が発生することがあります。以下は標準的ではないかもしれませんが、私が普段用いている記法について参考として書いておきます。
反射を表す場合は括弧を使わないのがInternational Tables for Crystallographyの流儀なのですが、それで困るのはincommensurateな反射の場合だと思います。
例えば (h,k,l) = (1,0,0) + (q,0,0)のような反射の場合、古い文献を読むと 100+ のように「+」記号でサテライト反射であることを示す場合もありますが、q-vectorが複数ある場合など、非常に視認性が悪いです。
逆格子空間の任意の点を表すときに、座標として (1,0,0) のように丸括弧とカンマ区切りの数字を使うことは容認されているように思います。よって、例えば
We observed an incommensurate magentic Bragg reflection at (1+q,0,0) in the reciprocal space.
のような形で書くこともあります。（面倒ですが）
「the (1+q,0,0) reflection」とか「the (100) reflection」のような表記は厳密にはInternational tables for crystallograpy の記法に合わないことになりますので注意しましょう。
前述のように、結晶の面を表すときにはミラー指数として(100)のような表記をします。丸括弧の中に具体的な数字をカンマなしで入れます。
一方、散乱実験では、散乱面を(H,K,0)のように表すことがあります。ここでH, Kは変数なので任意の値を取りますが、上記のミラー指数として(HK0)のような形にしてしまうと、これはミラー指数(Ha*+Kb*+0c*ベクトルに垂直な面を表す指数)でかつHKが変数ということになり、本来の意図から外れてしまいます。
そのため、reciprocal spaceでの幾何学的なベクトル・面の表記として丸括弧とカンマの表記（つまり普通の数学のベクトル表記と同じ）を使って(H,K,0)のように表すようにしています。