Extend driver to dump all tables.
[eow] / xdump.lisp
1 (in-package :xdump)
2
3 (defvar *current-parser* nil)
4
5 (defclass table-column-meta ()
6   ((name :accessor meta-name)
7    (type :accessor meta-type)
8    (flags :accessor meta-flags)
9    (len :accessor meta-len)
10    (table :accessor meta-table)))
11
12 (defclass xdump-table ()
13   ((name :accessor table-name :initarg :name)
14    (index :accessor table-index :initarg :index)
15    (last-update :accessor table-last-update :initform 0)
16    (entry-class :accessor table-entry-class :initarg :entry-class)
17    (entries :accessor table-entries :initform (make-array 8
18                                                           :fill-pointer 8
19                                                           :adjustable t
20                                                           :initial-element nil))))
21
22 ;(defclass empire-table ()
23 ;  (()))
24
25 (defvar *meta-by-index* (make-array 50 :adjustable t :initial-element nil))
26 (defvar *table-by-index* (make-array 50 :adjustable t :initial-element nil))
27 (defvar *index-by-name* (make-hash-table :size 50 :test 'equal))
28 (defvar *meta-index* (make-array 5) "meta slot symbol by meta table column index")
29 (defvar *meta-meta* (make-array 5))
30
31 (defun get-table (table-name)
32   (let* ((table-index (gethash table-name *index-by-name*))
33          (table (aref *table-by-index* table-index)))
34     table))
35
36 (defun get-table-entry (table-name index)
37     (aref (table-entries (get-table table-name)) index))
38
39 (defclass xdump-parser ()
40   ((line-parser :accessor line-parser :initform nil)
41    (entry-buffer :accessor entry-buffer :initform (make-array 1 :fill-pointer 0 :adjustable t))
42    (entry-index :accessor entry-index :initform 0)
43    (finalizer :accessor finalizer :initform nil)
44    (name :accessor table-name :initform nil)
45    (timestamp :accessor timestamp :initform nil)))
46
47 (defgeneric finish-table (xdump-parser number-of-records))
48 (defgeneric parse-entry (xdump-parser line))
49 (defgeneric parse-meta (xdump-parser name timestamp))
50 (defgeneric parse-table (xdump-parser name timestamp))
51 (defgeneric header-parser (xdump-parser line))
52 (defgeneric parse-line (xdump-parser line))
53
54 (defun meta-meta-finalizer (parser)
55   (with-slots (entry-buffer) parser
56                                         ; build meta-index from integer index to slot symbol
57     (loop
58        for i = 0 then (+ i 1)
59        for e across entry-buffer
60        do (let* ((slot-name (string-upcase (car e)))
61                  (slot (find-symbol slot-name :xdump)))
62             (setf (aref *meta-index* i) slot)))
63                                         ; build meta-meta table
64     (loop for entry across entry-buffer
65        for i = 0 then (+ i 1)
66        do (let ((meta-meta (make-instance 'table-column-meta)))
67             (loop for slot across *meta-index*
68                for field in entry
69                do (setf (slot-value meta-meta slot) field))
70             (setf (aref *meta-meta* i) meta-meta)))))
71
72 (defun meta-finalizer (parser)
73   (let ((meta-table (make-array 1 :fill-pointer 0 :adjustable t)))
74     (with-slots (entry-buffer name) parser
75       (loop for entry across entry-buffer
76          do (let ((meta (make-instance 'table-column-meta)))
77               (loop for slot across *meta-index*
78                  for field in entry
79                  do (setf (slot-value meta slot) field))
80               (vector-push-extend meta meta-table)))
81       (format t "~a~%~a~%~a~%" name meta-table entry-buffer)
82       (let ((table-index (if (string= "table" name)
83                              ; voodoo: the first column of the table of tables is the uid
84                              (elt (aref entry-buffer 0) 4)
85                              (gethash name *index-by-name*))))
86         (setf (aref *meta-by-index* table-index) meta-table)
87
88         ;; create xdump-table instance and entry class
89         (let* ((class-name (string-upcase (format nil "~a-table-entry" name)))
90                (package (find-package "XDUMP-DATA"))
91                (table-instance (make-instance 'xdump-table
92                                               :name name
93                                               :index table-index
94                                               :entry-class (intern class-name package)))
95                (slot-list (loop for entry across entry-buffer
96                              collect (car entry))))
97           (setf (aref *table-by-index* table-index) table-instance)
98           (format t "slot-list: ~a~%" slot-list)
99           (eval `(defclass ,(find-symbol class-name package) ()
100                    ,(mapcar #'(lambda (raw-slot-name)
101                                 (let* ((slot-name (string-upcase raw-slot-name))
102                                        (accessor-name (string-upcase (format nil "~a-~a" name slot-name))))
103                                   (list (intern slot-name package) :accessor (intern accessor-name package))))
104                             slot-list))))))))
105
106 (defun table-finalizer (parser)
107   (with-slots (entry-buffer name timestamp) parser
108     (if (string= name "table") ; special magic: prefill index-by-name
109         (loop for entry across entry-buffer do
110              (setf (gethash (second entry) *index-by-name*) (first entry))))
111     (format t "table-finalizer: ~a~%" name)
112     (let* ((table-index (gethash name *index-by-name*))
113            (meta-table (aref *meta-by-index* table-index))
114            (table (aref *table-by-index* table-index)))
115       (loop for entry across entry-buffer do
116            (let ((e (make-instance (table-entry-class table)))
117                  (index (first entry))
118                  (entries (table-entries table)))
119              ; extend array if necessary
120              (unless (> (fill-pointer entries) index)
121                (adjust-array entries (* 2 index) :fill-pointer index :initial-element nil))
122              (setf (aref entries index) e)
123              (loop
124                 for item in entry
125                 for column across meta-table do
126                   (setf (slot-value e (find-symbol (string-upcase (meta-name column)) (find-package "XDUMP-DATA"))) item))))
127       (setf (table-last-update table) timestamp))))
128
129 (defmethod finish-table ((parser xdump-parser) number-of-records)
130   (if (not (equal number-of-records (length (entry-buffer parser))))
131       (error "Table row count mismatch"))
132   (funcall (finalizer parser) parser)
133   t) ;; finished
134
135 (defmethod parse-entry ((parser xdump-parser) line)
136   (if (char= #\/ (aref line 0))
137       (finish-table parser (parse-integer (subseq line 1)))
138       (let ((fields (mapcar #'read-from-string (cl-ppcre:split " " line))))
139         (with-slots (entry-buffer entry-index) parser
140           (vector-push-extend fields entry-buffer)
141           (incf entry-index))
142         nil)))
143
144 (defmethod parse-meta ((parser xdump-parser) input-name input-timestamp)
145   (with-slots (line-parser finalizer name timestamp) parser
146     (setf line-parser #'parse-entry
147           finalizer (if (string= "meta" input-name)
148                         #'meta-meta-finalizer
149                         #'meta-finalizer)
150           name input-name
151           timestamp input-timestamp)))
152
153 (defmethod parse-table ((parser xdump-parser) input-name input-timestamp)
154   (with-slots (line-parser finalizer name timestamp) parser
155     (setf line-parser #'parse-entry
156           finalizer #'table-finalizer
157           name input-name
158           timestamp input-timestamp)))
159
160 (defmethod header-parser ((parser xdump-parser) line)
161   (multiple-value-bind (fullmatch groups)
162       (cl-ppcre:scan-to-strings "^XDUMP meta (.*) ([0-9]+)$" line)
163     (if fullmatch
164         ;; meta table
165         (let ((name (aref groups 0))
166               (timestamp (parse-integer (aref groups 1))))
167           (parse-meta parser name timestamp))
168         ;; table
169         (multiple-value-bind (fullmatch groups)
170             (cl-ppcre:scan-to-strings "^XDUMP (.*) ([0-9]+)$" line)
171           (declare (ignorable fullmatch))
172           (let ((name (aref groups 0))
173                 (timestamp (parse-integer (aref groups 1))))
174             (parse-table parser name timestamp)))))
175   nil)
176
177 (defmethod parse-line ((parser xdump-parser) line)
178   (with-slots (line-parser) parser
179     (funcall line-parser parser line)))
180
181 (defun make-parser ()
182   (let ((parser (make-instance 'xdump-parser)))
183     (setf (line-parser parser) #'header-parser)
184     parser))
185
186 (defun parse (stream)
187   (let ((parser (make-parser)))
188     (setf *current-parser* parser)
189     (loop for line = (read-line stream nil)
190        while line do (parse-line parser line))))
191
192 (defun test-parse (filename)
193   (with-open-file (s filename)
194     (parse s)))
195
196 (defun t1 ()
197   (test-parse "xdump-meta-meta.txt"))
198
199 (defun t2 ()
200   (test-parse "xdump-meta-meta.txt")
201   (test-parse "xdump-meta-table.txt")
202   (test-parse "xdump-table.txt")
203   (test-parse "xdump-meta-34.txt")
204   (test-parse "xdump-34.txt"))