맥북에 Graphviz, pygraphviz 설치하고 Decision Tree 시각화해보기
Python 분석과 프로그래밍/Python 설치 및 기본 사용법 2018. 8. 25. 12:55Graphviz는 AT&T와 Bell Labs에서 만든 오픈소스 시각화 소프트웨어입니다. Graphviz는 구조화된 정보를 추상화된 그래프나 네트워크 형태의 다이어그램으로 제시를 해줍니다. 가령, 기계학습의 Decision Tree 학습 결과를 Tree 형태로 시각화를 한다든지, Process Mining을 통해 찾은 workflow를 방향성 있는 네트워크 형태로 시각화할 때 Graphviz 를 사용할 수 있습니다.
PyGraphviz 는 Python으로 Graphviz 소프트웨어를 사용할 수 있게 인터페이스를 해주는 Python 패키지입니다. PyGraphviz를 사용하여 Graphviz 그래프의 데이터 구조와 배열 알고리즘에 접근하여 그래프를 생성, 편집, 읽기, 쓰기, 그리기 등을 할 수 있습니다.
Python으로 Graphviz를 사용하려면 (a) 먼저 Graphviz S/W를 설치하고, (b) 다음으로 PyGraphviz를 설치해야 합니다. 만약 순서가 바뀌어서 Graphviz 소프트웨어를 설치하지 않은 상태에서 PyGraphviz를 설치하려고 하면 Graphviz를 먼저 설치하라는 에러 메시지가 뜰 겁니다. 순서가 중요합니다!
| Your Graphviz installation could not be found.
1) You don't have Graphviz installed: Install Graphviz (http://graphviz.org) |
이번 포스팅에서는
(1) Mac OS High Sierra 에 Graphviz 소프트웨어 설치하기
(2) Python 2.7에 PyGraphviz library 설치하기
(3) Graphviz와 PyGraphviz를 사용하여 Decision Tree 시각화 해보기
에 대해서 소개하겠습니다.
(1) Mac OS High Sierra 에 Graphviz 소프트웨어 설치하기 |
(참고로, 저는 Mac OS High Sierra version 10.13.6을 사용하고 있습니다.)
(1-1) Homebrew 를 설치합니다.
Homebrew는 애플 Mac OS 에서 소프트웨어 패키지를 설치를 간소화해주는 소프트웨어 패키지 관리 오픈소스 툴입니다. 터미널을 하나 열고 아래의 코드를 복사해서 실행하면 됩니다.
$ ruby -e "$(curl -fsSL https://raw.githubusercontent.com/Homebrew/install/master/install)" < /dev/null 2> /dev/null
ihongdon-ui-MacBook-Pro:~ ihongdon$ ruby -e "$(curl -fsSL https://raw.githubusercontent.com/Homebrew/install/master/install)" < /dev/null 2> /dev/null
|
(1-2) Graphviz를 설치합니다.
Homebrew를 설치하였으면,이제 아래의 Homebrew 코드를 터미널에서 실행하여 Graphviz를 설치해줍니다.
$ brew install graphviz
|
(2) Python 2.7에 PyGraphviz library 설치하기 |
PyGraphviz는 Python 3.x 버전, 그리고 Python 2.7 버전에서 사용할 수 있습니다. 이번 포스팅에서는 Python 2.7 버전에 PyGraphviz 패키지를 설치해보겠습니다.
conda env list로 가상환경 리스트를 확인하고, source activate 로 Python2.7 버전의 가상환경을 활성화시킨 후에, pip install --upgrade pip 로 pip 버전 업그레이드 한 후에, easy_install pygraphviz 로 PyGraphviz를 설치하였습니다.
왜 그런지 이유는 모르겠으나 pip install pygraphviz 로 설치하려고 하니 설치가 되다가 막판에 에러가 났습니다.
pip install git://github.com/pygraphviz/pygraphviz.git 도 시도를 해봤는데 역시 에러가 났습니다.
다행히 easy_install pygrapviz 로 설치가 되네요.
ihongdon-ui-MacBook-Pro:~ ihongdon$ conda env list # conda environments: # base * /Users/ihongdon/anaconda3 py2.7_tf1.4 /Users/ihongdon/anaconda3/envs/py2.7_tf1.4 py3.5_tf1.4 /Users/ihongdon/anaconda3/envs/py3.5_tf1.4 ihongdon-ui-MacBook-Pro:~ ihongdon$ ihongdon-ui-MacBook-Pro:~ ihongdon$ source activate py2.7_tf1.4 (py2.7_tf1.4) ihongdon-ui-MacBook-Pro:~ ihongdon$ pip install --upgrade pip Requirement already up-to-date: pip in ./anaconda3/envs/py2.7_tf1.4/lib/python2.7/site-packages (18.0) (py2.7_tf1.4) ihongdon-ui-MacBook-Pro:~ ihongdon$
(py2.7_tf1.4) ihongdon-ui-MacBook-Pro:~ ihongdon$ (py2.7_tf1.4) ihongdon-ui-MacBook-Pro:~ ihongdon$ easy_install pygraphviz Searching for pygraphviz Reading https://pypi.python.org/simple/pygraphviz/ Downloading https://files.pythonhosted.org/packages/87/5e/40efbb2d02ee9d0282f6c8b9e477f6444a025a7ecf8cc0b15fe87a288708 /pygraphviz-1.4rc1.zip#sha256=e0b3a7f1d9203f9748b94e8365656755201966b562e53fd6424bed89e98fdc4e Best match: pygraphviz 1.4rc1 Processing pygraphviz-1.4rc1.zip Writing /var/folders/6q/mtq6ftrj6_z4txn_zsxcfyxc0000gn/T/easy_install-U3TQDK/pygraphviz-1.4rc1/setup.cfg Running pygraphviz-1.4rc1/setup.py -q bdist_egg --dist-dir /var/folders/6q/mtq6ftrj6_z4txn_zsxcfyxc0000gn/T/easy_install-U3TQDK/pygraphviz-1.4rc1/egg-dist-tmp-wc0yf4 warning: no previously-included files matching '*~' found anywhere in distribution warning: no previously-included files matching '*.pyc' found anywhere in distribution warning: no previously-included files matching '.svn' found anywhere in distribution no previously-included directories found matching 'doc/build' pygraphviz/graphviz_wrap.c:3354:12: warning: incompatible pointer to integer conversion returning 'Agsym_t *' (aka 'struct Agsym_s *') from a function with result type 'int' [-Wint-conversion] return agattr(g, kind, name, val); ^~~~~~~~~~~~~~~~~~~~~~~~~~ pygraphviz/graphviz_wrap.c:3438:7: warning: unused variable 'fd1' [-Wunused-variable] int fd1 ; ^ pygraphviz/graphviz_wrap.c:3439:13: warning: unused variable 'mode_obj1' [-Wunused-variable] PyObject *mode_obj1 ; ^ pygraphviz/graphviz_wrap.c:3440:13: warning: unused variable 'mode_byte_obj1' [-Wunused-variable] PyObject *mode_byte_obj1 ; ^ pygraphviz/graphviz_wrap.c:3441:9: warning: unused variable 'mode1' [-Wunused-variable] char *mode1 ; ^ pygraphviz/graphviz_wrap.c:3509:7: warning: unused variable 'fd2' [-Wunused-variable] int fd2 ; ^ pygraphviz/graphviz_wrap.c:3510:13: warning: unused variable 'mode_obj2' [-Wunused-variable] PyObject *mode_obj2 ; ^ pygraphviz/graphviz_wrap.c:3511:13: warning: unused variable 'mode_byte_obj2' [-Wunused-variable] PyObject *mode_byte_obj2 ; ^ pygraphviz/graphviz_wrap.c:3512:9: warning: unused variable 'mode2' [-Wunused-variable] char *mode2 ; ^ 9 warnings generated. zip_safe flag not set; analyzing archive contents... pygraphviz.graphviz: module references __file__ pygraphviz.release: module references __file__ pygraphviz.tests.test: module references __file__ creating /Users/ihongdon/anaconda3/envs/py2.7_tf1.4/lib/python2.7/site-packages/pygraphviz-1.4rc1-py2.7-macosx-10.6-x86_64.egg Extracting pygraphviz-1.4rc1-py2.7-macosx-10.6-x86_64.egg to /Users/ihongdon/anaconda3/envs/py2.7_tf1.4/lib/python2.7/site-packages Adding pygraphviz 1.4rc1 to easy-install.pth file Installed /Users/ihongdon/anaconda3/envs/py2.7_tf1.4/lib/python2.7/site-packages/pygraphviz-1.4rc1-py2.7-macosx-10.6-x86_64.egg Processing dependencies for pygraphviz Finished processing dependencies for pygraphviz (py2.7_tf1.4) ihongdon-ui-MacBook-Pro:~ ihongdon$ (py2.7_tf1.4) ihongdon-ui-MacBook-Pro:~ ihongdon$ |
(3) Graphviz와 PyGraphviz를 사용하여 Decision Tree 시각화 해보기 |
이제 Graphviz와 PyGraphviz를 사용해서 Jupyter Notebook 에서 Decision Tree를 시각화해보겠습니다. Iris 데이터셋을 사용해서 Decision Tree로 Iris 종류 분류하는 예제입니다.
# Common imports import numpy as np import os # To plot pretty figures %matplotlib inline import matplotlib import matplotlib.pyplot as plt # Where to save the figures PROJECT_ROOT_DIR = "." SUB_DIR = "decision_trees" def image_path(fig_id): return os.path.join(PROJECT_ROOT_DIR, "images", SUB_DIR, fig_id)
# Iris dataset import from sklearn.datasets import load_iris from sklearn.tree import DecisionTreeClassifier iris = load_iris() list(iris.keys()) ['target_names', 'data', 'target', 'DESCR', 'feature_names']print(iris.DESCR)Iris Plants Database ==================== Notes ----- Data Set Characteristics: :Number of Instances: 150 (50 in each of three classes) :Number of Attributes: 4 numeric, predictive attributes and the class :Attribute Information: - sepal length in cm - sepal width in cm - petal length in cm - petal width in cm - class: - Iris-Setosa - Iris-Versicolour - Iris-Virginica :Summary Statistics: ============== ==== ==== ======= ===== ==================== Min Max Mean SD Class Correlation ============== ==== ==== ======= ===== ==================== sepal length: 4.3 7.9 5.84 0.83 0.7826 sepal width: 2.0 4.4 3.05 0.43 -0.4194 petal length: 1.0 6.9 3.76 1.76 0.9490 (high!) petal width: 0.1 2.5 1.20 0.76 0.9565 (high!) ============== ==== ==== ======= ===== ==================== :Missing Attribute Values: None :Class Distribution: 33.3% for each of 3 classes. :Creator: R.A. Fisher :Donor: Michael Marshall (MARSHALL%PLU@io.arc.nasa.gov) :Date: July, 1988 This is a copy of UCI ML iris datasets. http://archive.ics.uci.edu/ml/datasets/Iris The famous Iris database, first used by Sir R.A Fisher This is perhaps the best known database to be found in the pattern recognition literature. Fisher's paper is a classic in the field and is referenced frequently to this day. (See Duda & Hart, for example.) The data set contains 3 classes of 50 instances each, where each class refers to a type of iris plant. One class is linearly separable from the other 2; the latter are NOT linearly separable from each other. References ---------- - Fisher,R.A. "The use of multiple measurements in taxonomic problems" Annual Eugenics, 7, Part II, 179-188 (1936); also in "Contributions to Mathematical Statistics" (John Wiley, NY, 1950). - Duda,R.O., & Hart,P.E. (1973) Pattern Classification and Scene Analysis. (Q327.D83) John Wiley & Sons. ISBN 0-471-22361-1. See page 218. - Dasarathy, B.V. (1980) "Nosing Around the Neighborhood: A New System Structure and Classification Rule for Recognition in Partially Exposed Environments". IEEE Transactions on Pattern Analysis and Machine Intelligence, Vol. PAMI-2, No. 1, 67-71. - Gates, G.W. (1972) "The Reduced Nearest Neighbor Rule". IEEE Transactions on Information Theory, May 1972, 431-433. - See also: 1988 MLC Proceedings, 54-64. Cheeseman et al"s AUTOCLASS II conceptual clustering system finds 3 classes in the data. - Many, many more ... |
iris.feature_names ['sepal length (cm)',
'sepal width (cm)',
'petal length (cm)',
'petal width (cm)']iris.data[:5,] array([[ 5.1, 3.5, 1.4, 0.2],
[ 4.9, 3. , 1.4, 0.2],
[ 4.7, 3.2, 1.3, 0.2],
[ 4.6, 3.1, 1.5, 0.2],
[ 5. , 3.6, 1.4, 0.2]])
|
Scikit Learn 의 DecisionTreeClassifier 클래스를 사용하여 iris 분류 모델을 적합시켜 보겠습니다.
X = iris.data[:, 2:] # petal length and width y = iris.target
# Train the model tree_clf = DecisionTreeClassifier(max_depth=2) tree_clf.fit(X, y) |
위의 Decision Tree 모형을 export_grapviz() 함수를 사용하여 graphviz의 dot format 파일로 내보내기(export)해보겠습니다.
# Visualization from sklearn.tree import export_graphviz export_graphviz( tree_clf, out_file=image_path("iris_tree.dot"), feature_names=iris.feature_names[2:], class_names=iris.target_names, rounded=True, filled=True )
|
위의 export_graphviz() 코드를 실행시키면 ""/Users/ihongdon/images/decision_trees/" 폴더에 iris_tree.dot 파일이 생성됩니다. 이 dot format 파일을 워드나 노트패드를 사용해서 열어보면 아래와 같이 되어있습니다.
digraph Tree {
|
마지막으로, 위의 iris_tree.dot 의 dot format파일을 가지고 pygraphviz 패키지를 사용하여 Decision Tree를 시각화해보겠습니다.
import pygraphviz as pgv from IPython.display import Image graph = pgv.AGraph("/Users/ihongdon/images/decision_trees/iris_tree.dot") graph.draw('iris_tree_out.png', prog='dot') Image('iris_tree_out.png')
|
[Reference]
- Graphviz: https://graphviz.gitlab.io/
- PyGraphviz: https://pygraphviz.github.io/
많은 도움이 되었기를 바랍니다.
