GDPDU: Zellennormalisierung auch für transactions
[kivitendo-erp.git] / SL / GDPDU.pm
1 package SL::GDPDU;
2
3 # TODO:
4 # optional: background jobable
5
6 use strict;
7 use utf8;
8
9 use parent qw(Rose::Object);
10
11 use Text::CSV_XS;
12 use XML::Writer;
13 use Archive::Zip;
14 use File::Temp ();
15 use File::Spec ();
16 use List::MoreUtils qw(any);
17 use List::UtilsBy qw(partition_by sort_by);
18
19 use SL::DB::Helper::ALL; # since we work on meta data, we need everything
20 use SL::DB::Helper::Mappings;
21 use SL::Locale::String qw(t8);
22
23 use Rose::Object::MakeMethods::Generic (
24   scalar                  => [ qw(from to writer company location) ],
25   'scalar --get_set_init' => [ qw(files tempfiles export_ids tables) ],
26 );
27
28 # in this we find:
29 # key:         table name
30 # name:        short name, translated
31 # description: long description, translated
32 # transdate:   column used to filter from/to, empty if table is filtered otherwise
33 # keep:        arrayref of columns that should be saved for further referencing
34 # tables:      arrayref with one column and one or many table.column references that were kept earlier
35 my %known_tables = (
36   chart    => { name => t8('Charts'),    description => t8('Chart of Accounts'),    primary_key => 'accno', columns => [ qw(id accno description) ],     },
37   customer => { name => t8('Customers'), description => t8('Customer Master Data'), columns => [ qw(id name department_1 department_2 street zipcode city country contact phone fax email notes customernumber taxnumber obsolete ustid) ] },
38   vendor   => { name => t8('Vendors'),   description => t8('Vendor Master Data'),   columns => [ qw(id name department_1 department_2 street zipcode city country contact phone fax email notes customernumber taxnumber obsolete ustid) ] },
39 );
40
41 my %datev_column_defs = (
42   acc_trans_id      => { type => 'Rose::DB::Object::Metadata::Column::Integer', text => t8('ID'), },
43   amount            => { type => 'Rose::DB::Object::Metadata::Column::Numeric', text => t8('Amount'), },
44   credit_accname    => { type => 'Rose::DB::Object::Metadata::Column::Text',    text => t8('Credit Account Name'), },
45   credit_accno      => { type => 'Rose::DB::Object::Metadata::Column::Text',    text => t8('Credit Account'), },
46   debit_accname     => { type => 'Rose::DB::Object::Metadata::Column::Text',    text => t8('Debit Account Name'), },
47   debit_accno       => { type => 'Rose::DB::Object::Metadata::Column::Text',    text => t8('Debit Account'), },
48   invnumber         => { type => 'Rose::DB::Object::Metadata::Column::Text',    text => t8('Reference'), },
49   name              => { type => 'Rose::DB::Object::Metadata::Column::Text',    text => t8('Name'), },
50   notes             => { type => 'Rose::DB::Object::Metadata::Column::Text',    text => t8('Notes'), },
51   tax               => { type => 'Rose::DB::Object::Metadata::Column::Text',    text => t8('Tax'), },
52   taxdescription    => { type => 'Rose::DB::Object::Metadata::Column::Text',    text => t8('tax_taxdescription'), },
53   taxkey            => { type => 'Rose::DB::Object::Metadata::Column::Integer', text => t8('Taxkey'), },
54   tax_accname       => { type => 'Rose::DB::Object::Metadata::Column::Text',    text => t8('Tax Account Name'), },
55   tax_accno         => { type => 'Rose::DB::Object::Metadata::Column::Text',    text => t8('Tax Account'), },
56   transdate         => { type => 'Rose::DB::Object::Metadata::Column::Date',    text => t8('Invoice Date'), },
57   vcnumber          => { type => 'Rose::DB::Object::Metadata::Column::Text',    text => t8('Customer/Vendor Number'), },
58   customer_id       => { type => 'Rose::DB::Object::Metadata::Column::Integer', text => t8('Customer (database ID)'), },
59   vendor_id         => { type => 'Rose::DB::Object::Metadata::Column::Integer', text => t8('Vendor (database ID)'), },
60   itime             => { type => 'Rose::DB::Object::Metadata::Column::Date',    text => t8('Create Date'), },
61 );
62
63 my @datev_columns = qw(
64   acc_trans_id
65   customer_id vendor_id
66   name           vcnumber
67   transdate    invnumber      amount
68   debit_accno  debit_accname
69   credit_accno credit_accname
70   taxdescription tax
71   tax_accno    tax_accname    taxkey
72   notes itime
73 );
74
75 # rows in this listing are tiers.
76 # tables may depend on ids in a tier above them
77 my @export_table_order = qw(
78   ar ap gl oe delivery_orders
79   invoice orderitems delivery_order_items
80   customer vendor
81   parts
82   acc_trans
83   chart
84 );
85
86 # needed because the standard dbh sets datestyle german and we don't want to mess with that
87 my $date_format = 'DD.MM.YYYY';
88 my $number_format = '1000.00';
89
90 my $myconfig = { numberformat => $number_format };
91
92 # callbacks that produce the xml spec for these column types
93 my %column_types = (
94   'Rose::DB::Object::Metadata::Column::Integer'   => sub { $_[0]->tag('Numeric') },  # see Caveats for integer issues
95   'Rose::DB::Object::Metadata::Column::BigInt'    => sub { $_[0]->tag('Numeric') },  # see Caveats for integer issues
96   'Rose::DB::Object::Metadata::Column::Text'      => sub { $_[0]->tag('AlphaNumeric') },
97   'Rose::DB::Object::Metadata::Column::Varchar'   => sub { $_[0]->tag('AlphaNumeric') },
98   'Rose::DB::Object::Metadata::Column::Character' => sub { $_[0]->tag('AlphaNumeric') },
99   'Rose::DB::Object::Metadata::Column::Numeric'   => sub { $_[0]->tag('Numeric', sub { $_[0]->tag('Accuracy', 5) }) },
100   'Rose::DB::Object::Metadata::Column::Date'      => sub { $_[0]->tag('Date', sub { $_[0]->tag('Format', $date_format) }) },
101   'Rose::DB::Object::Metadata::Column::Timestamp' => sub { $_[0]->tag('Date', sub { $_[0]->tag('Format', $date_format) }) },
102   'Rose::DB::Object::Metadata::Column::Float'     => sub { $_[0]->tag('Numeric') },
103   'Rose::DB::Object::Metadata::Column::Boolean'   => sub { $_[0]
104     ->tag('AlphaNumeric')
105     ->tag('Map', sub { $_[0]
106       ->tag('From', 1)
107       ->tag('To', t8('true'))
108     })
109     ->tag('Map', sub { $_[0]
110       ->tag('From', 0)
111       ->tag('To', t8('false'))
112     })
113     ->tag('Map', sub { $_[0]
114       ->tag('From', '')
115       ->tag('To', t8('false'))
116     })
117   },
118 );
119
120 sub generate_export {
121   my ($self) = @_;
122
123   # verify data
124   $self->from && 'DateTime' eq ref $self->from or die 'need from date';
125   $self->to   && 'DateTime' eq ref $self->to   or die 'need to date';
126   $self->from <= $self->to                     or die 'from date must be earlier or equal than to date';
127   $self->tables && @{ $self->tables }          or die 'need tables';
128   for (@{ $self->tables }) {
129     next if $known_tables{$_};
130     die "unknown table '$_'";
131   }
132
133   # get data from those tables and save to csv
134   # for that we need to build queries that fetch all the columns
135   for ($self->sorted_tables) {
136     $self->do_csv_export($_);
137   }
138
139   $self->do_datev_csv_export;
140
141   # write xml file
142   $self->do_xml_file;
143
144   # add dtd
145   $self->files->{'gdpdu-01-08-2002.dtd'} = File::Spec->catfile('users', 'gdpdu-01-08-2002.dtd');
146
147   # make zip
148   my ($fh, $zipfile) = File::Temp::tempfile();
149   my $zip            = Archive::Zip->new;
150
151   while (my ($name, $file) = each %{ $self->files }) {
152     $zip->addFile($file, $name);
153   }
154
155   $zip->writeToFileHandle($fh) == Archive::Zip::AZ_OK() or die 'error writing zip file';
156   close($fh);
157
158   return $zipfile;
159 }
160
161 sub do_xml_file {
162   my ($self) = @_;
163
164   my ($fh, $filename) = File::Temp::tempfile();
165   binmode($fh, ':utf8');
166
167   $self->files->{'INDEX.XML'} = $filename;
168   push @{ $self->tempfiles }, $filename;
169
170   my $writer = XML::Writer->new(
171     OUTPUT      => $fh,
172     ENCODING    => 'UTF-8',
173   );
174
175   $self->writer($writer);
176   $self->writer->xmlDecl('UTF-8');
177   $self->writer->doctype('DataSet', undef, "gdpdu-01-08-2002.dtd");
178   $self->tag('DataSet', sub { $self
179     ->tag('Version', '1.0')
180     ->tag('DataSupplier', sub { $self
181       ->tag('Name', $self->client_name)
182       ->tag('Location', $self->client_location)
183       ->tag('Comment', $self->make_comment)
184     })
185     ->tag('Media', sub { $self
186       ->tag('Name', t8('DataSet #1', 1));
187       for (reverse $self->sorted_tables) { $self  # see CAVEATS for table order
188         ->table($_)
189       }
190       $self->do_datev_xml_table;
191     })
192   });
193   close($fh);
194 }
195
196 sub table {
197   my ($self, $table) = @_;
198   my $writer = $self->writer;
199
200   $self->tag('Table', sub { $self
201     ->tag('URL', "$table.csv")
202     ->tag('Name', $known_tables{$table}{name})
203     ->tag('Description', $known_tables{$table}{description})
204     ->tag('Validity', sub { $self
205       ->tag('Range', sub { $self
206         ->tag('From', $self->from->to_kivitendo(dateformat => 'dd.mm.yyyy'))
207         ->tag('To',   $self->to->to_kivitendo(dateformat => 'dd.mm.yyyy'))
208       })
209       ->tag('Format', $date_format)
210     })
211     ->tag('UTF8')
212     ->tag('DecimalSymbol', '.')
213     ->tag('DigitGroupingSymbol', '|')     # see CAVEATS in documentation
214     ->tag('VariableLength', sub { $self
215       ->tag('ColumnDelimiter', ',')       # see CAVEATS for missing RecordDelimiter
216       ->tag('TextEncapsulator', '"')
217       ->columns($table)
218       ->foreign_keys($table)
219     })
220   });
221 }
222
223 sub _table_columns {
224   my ($table) = @_;
225   my $package = SL::DB::Helper::Mappings::get_package_for_table($table);
226
227   my %white_list;
228   my $use_white_list = 0;
229   if ($known_tables{$table}{columns}) {
230     $use_white_list = 1;
231     $white_list{$_} = 1 for @{ $known_tables{$table}{columns} || [] };
232   }
233
234   # PrimaryKeys must come before regular columns, so partition first
235   partition_by {
236     $known_tables{$table}{primary_key}
237       ? 1 * ($_ eq $known_tables{$table}{primary_key})
238       : 1 * $_->is_primary_key_member
239   } grep {
240     $use_white_list ? $white_list{$_->name} : 1
241   } $package->meta->columns;
242 }
243
244 sub columns {
245   my ($self, $table) = @_;
246
247   my %cols_by_primary_key = _table_columns($table);
248
249   for my $column (@{ $cols_by_primary_key{1} }) {
250     my $type = $column_types{ ref $column };
251
252     die "unknown col type @{[ ref $column ]}" unless $type;
253
254     $self->tag('VariablePrimaryKey', sub { $self
255       ->tag('Name', $column->name);
256       $type->($self);
257     })
258   }
259
260   for my $column (@{ $cols_by_primary_key{0} }) {
261     my $type = $column_types{ ref $column };
262
263     die "unknown col type @{[ ref $column]}" unless $type;
264
265     $self->tag('VariableColumn', sub { $self
266       ->tag('Name', $column->name);
267       $type->($self);
268     })
269   }
270
271   $self;
272 }
273
274 sub foreign_keys {
275   my ($self, $table) = @_;
276   my $package = SL::DB::Helper::Mappings::get_package_for_table($table);
277
278   my %requested = map { $_ => 1 } @{ $self->tables };
279
280   for my $rel ($package->meta->foreign_keys) {
281     next unless $requested{ $rel->class->meta->table };
282
283     # ok, now extract the columns used as foreign key
284     my %key_columns = $rel->key_columns;
285
286     if (1 != keys %key_columns) {
287       die "multi keys? we don't support this currently. fix it please";
288     }
289
290     if ($table eq $rel->class->meta->table) {
291       # self referential foreign keys are a PITA to export correctly. skip!
292       next;
293     }
294
295     $self->tag('ForeignKey', sub {
296       $_[0]->tag('Name', $_) for keys %key_columns;
297       $_[0]->tag('References', $rel->class->meta->table);
298    });
299   }
300 }
301
302 sub do_datev_xml_table {
303   my ($self) = @_;
304   my $writer = $self->writer;
305
306   $self->tag('Table', sub { $self
307     ->tag('URL', "transactions.csv")
308     ->tag('Name', t8('Transactions'))
309     ->tag('Description', t8('Transactions'))
310     ->tag('Validity', sub { $self
311       ->tag('Range', sub { $self
312         ->tag('From', $self->from->to_kivitendo(dateformat => 'dd.mm.yyyy'))
313         ->tag('To',   $self->to->to_kivitendo(dateformat => 'dd.mm.yyyy'))
314       })
315       ->tag('Format', $date_format)
316     })
317     ->tag('UTF8')
318     ->tag('DecimalSymbol', '.')
319     ->tag('DigitGroupingSymbol', '|')     # see CAVEATS in documentation
320     ->tag('VariableLength', sub { $self
321       ->tag('ColumnDelimiter', ',')       # see CAVEATS for missing RecordDelimiter
322       ->tag('TextEncapsulator', '"')
323       ->datev_columns
324       ->datev_foreign_keys
325     })
326   });
327 }
328
329 sub datev_columns {
330   my ($self, $table) = @_;
331
332   my %cols_by_primary_key = partition_by { 1 * $datev_column_defs{$_}{primary_key} } @datev_columns;
333
334   for my $column (@{ $cols_by_primary_key{1} }) {
335     my $type = $column_types{ $datev_column_defs{$column}{type} };
336
337     die "unknown col type @{[ $column ]}" unless $type;
338
339     $self->tag('VariablePrimaryKey', sub { $self
340       ->tag('Name', $column);
341       $type->($self);
342     })
343   }
344
345   for my $column (@{ $cols_by_primary_key{0} }) {
346     my $type = $column_types{ $datev_column_defs{$column}{type} };
347
348     die "unknown col type @{[ ref $column]}" unless $type;
349
350     $self->tag('VariableColumn', sub { $self
351       ->tag('Name', $column);
352       $type->($self);
353     })
354   }
355
356   $self;
357 }
358
359 sub datev_foreign_keys {
360   my ($self) = @_;
361   # hard code weeee
362   $self->tag('ForeignKey', sub { $_[0]
363     ->tag('Name', 'customer_id')
364     ->tag('References', 'customer')
365   });
366   $self->tag('ForeignKey', sub { $_[0]
367     ->tag('Name', 'vendor_id')
368     ->tag('References', 'vendor')
369   });
370   $self->tag('ForeignKey', sub { $_[0]
371     ->tag('Name', $_)
372     ->tag('References', 'chart')
373   }) for qw(debit_accno credit_accno tax_accno);
374 }
375
376 sub do_datev_csv_export {
377   my ($self) = @_;
378
379   my $datev = SL::DATEV->new(from => $self->from, to => $self->to);
380
381   $datev->_get_transactions(from_to => $datev->fromto);
382
383   for my $transaction (@{ $datev->{DATEV} }) {
384     for my $entry (@{ $transaction }) {
385       $entry->{sortkey} = join '-', map { lc } (DateTime->from_kivitendo($entry->{transdate})->strftime('%Y%m%d'), $entry->{name}, $entry->{reference});
386     }
387   }
388
389   my @transactions = sort_by { $_->[0]->{sortkey} } @{ $datev->{DATEV} };
390
391   my $csv = Text::CSV_XS->new({ binary => 1, eol => "\r\n", sep_char => ",", quote_char => '"' });
392
393   my ($fh, $filename) = File::Temp::tempfile();
394   binmode($fh, ':utf8');
395
396   $self->files->{"transactions.csv"} = $filename;
397   push @{ $self->tempfiles }, $filename;
398
399   for my $transaction (@transactions) {
400     my $is_payment     = any { $_->{link} =~ m{A[PR]_paid} } @{ $transaction };
401
402     my ($soll, $haben) = map { $transaction->[$_] } ($transaction->[0]->{amount} > 0 ? (1, 0) : (0, 1));
403     my $tax            = defined($soll->{tax_amount}) ? $soll : defined($haben->{tax_amount}) ? $haben : {};
404     my $amount         = defined($soll->{net_amount}) ? $soll : $haben;
405     $haben->{notes}    = ($haben->{memo} || $soll->{memo}) if $haben->{memo} || $soll->{memo};
406     $haben->{notes}  //= '';
407     $haben->{notes}    =  SL::HTML::Util->strip($haben->{notes});
408
409     my %row            = (
410       amount           => $::form->format_amount($myconfig, abs($amount->{amount}),5),
411       debit_accno      => $soll->{accno},
412       debit_accname    => $soll->{accname},
413       credit_accno     => $haben->{accno},
414       credit_accname   => $haben->{accname},
415       tax              => defined $amount->{net_amount} ? $::form->format_amount($myconfig, abs($amount->{amount}) - abs($amount->{net_amount}), 5) : 0,
416       notes            => $haben->{notes},
417       (map { ($_ => $tax->{$_})                    } qw(taxkey tax_accname tax_accno taxdescription)),
418       (map { ($_ => ($haben->{$_} // $soll->{$_})) } qw(acc_trans_id invnumber name vcnumber transdate itime customer_id vendor_id)),
419     );
420
421     _normalize_cell($_) for values %row; # see CAVEATS
422
423     $csv->print($fh, [ map { $row{$_} } @datev_columns ]);
424   }
425
426   # and build xml spec for it
427 }
428
429 sub do_csv_export {
430   my ($self, $table) = @_;
431
432   my $csv = Text::CSV_XS->new({ binary => 1, eol => "\r\n", sep_char => ",", quote_char => '"' });
433
434   my ($fh, $filename) = File::Temp::tempfile();
435   binmode($fh, ':utf8');
436
437   $self->files->{"$table.csv"} = $filename;
438   push @{ $self->tempfiles }, $filename;
439
440   # in the right order (primary keys first)
441   my %cols_by_primary_key = _table_columns($table);
442   my @columns = (@{ $cols_by_primary_key{1} }, @{ $cols_by_primary_key{0} });
443   my %col_index = do { my $i = 0; map {; "$_" => $i++ } @columns };
444
445   # and normalize date stuff
446   my @select_tokens = map { (ref $_) =~ /Time/ ? $_->name . '::date' : $_->name } @columns;
447
448   my @where_tokens;
449   my @values;
450   if ($known_tables{$table}{transdate}) {
451     if ($self->from) {
452       push @where_tokens, "$known_tables{$table}{transdate} >= ?";
453       push @values, $self->from;
454     }
455     if ($self->to) {
456       push @where_tokens, "$known_tables{$table}{transdate} <= ?";
457       push @values, $self->to;
458     }
459   }
460   if ($known_tables{$table}{tables}) {
461     my ($col, @col_specs) = @{ $known_tables{$table}{tables} };
462     my %ids;
463     for (@col_specs) {
464       my ($ftable, $fkey) = split /\./, $_;
465       if (!exists $self->export_ids->{$ftable}{$fkey}) {
466          # check if we forgot to keep it
467          if (!grep { $_ eq $fkey } @{ $known_tables{$ftable}{keep} || [] }) {
468            die "unknown table spec '$_' for table $table, did you forget to keep $fkey in $ftable?"
469          } else {
470            # hmm, most likely just an empty set.
471            $self->export_ids->{$ftable}{$fkey} = {};
472          }
473       }
474       $ids{$_}++ for keys %{ $self->export_ids->{$ftable}{$fkey} };
475     }
476     if (keys %ids) {
477       push @where_tokens, "$col IN (@{[ join ',', ('?') x keys %ids ]})";
478       push @values, keys %ids;
479     } else {
480       push @where_tokens, '1=0';
481     }
482   }
483
484   my $where_clause = @where_tokens ? 'WHERE ' . join ' AND ', @where_tokens : '';
485
486   my $query = "SELECT " . join(', ', @select_tokens) . " FROM $table $where_clause";
487
488   my $sth = $::form->get_standard_dbh->prepare($query);
489   $sth->execute(@values) or die "error executing query $query: " . $sth->errstr;
490
491   while (my $row = $sth->fetch) {
492     for my $keep_col (@{ $known_tables{$table}{keep} || [] }) {
493       next if !$row->[$col_index{$keep_col}];
494       $self->export_ids->{$table}{$keep_col} ||= {};
495       $self->export_ids->{$table}{$keep_col}{$row->[$col_index{$keep_col}]}++;
496     }
497     _normalize_cell($_) for @$row; # see CAVEATS
498
499     $csv->print($fh, $row) or $csv->error_diag;
500   }
501   $sth->finish();
502 }
503
504 sub tag {
505   my ($self, $tag, $content) = @_;
506
507   $self->writer->startTag($tag);
508   if ('CODE' eq ref $content) {
509     $content->($self);
510   } else {
511     $self->writer->characters($content);
512   }
513   $self->writer->endTag;
514   return $self;
515 }
516
517 sub make_comment {
518   my $gdpdu_version = API_VERSION();
519   my $kivi_version  = $::form->read_version;
520   my $person        = $::myconfig{name};
521   my $contact       = join ', ',
522     (t8("Email") . ": $::myconfig{email}" ) x!! $::myconfig{email},
523     (t8("Tel")   . ": $::myconfig{tel}" )   x!! $::myconfig{tel},
524     (t8("Fax")   . ": $::myconfig{fax}" )   x!! $::myconfig{fax};
525
526   t8('DataSet for GDPdU version #1. Created with kivitendo #2 by #3 (#4)',
527     $gdpdu_version, $kivi_version, $person, $contact
528   );
529 }
530
531 sub client_name {
532   $_[0]->company
533 }
534
535 sub client_location {
536   $_[0]->location
537 }
538
539 sub sorted_tables {
540   my ($self) = @_;
541
542   my %given = map { $_ => 1 } @{ $self->tables };
543
544   grep { $given{$_} } @export_table_order;
545 }
546
547 sub all_tables {
548   my ($self, $yesno) = @_;
549
550   $self->tables(\@export_table_order) if $yesno;
551 }
552
553 sub _normalize_cell {
554   $_[0] =~ s/\r\n/ /g;
555   $_[0] =~ s/,/;/g;
556 }
557
558 sub init_files { +{} }
559 sub init_export_ids { +{} }
560 sub init_tempfiles { [] }
561 sub init_tables { [ grep { $known_tables{$_} } @export_table_order ] }
562
563 sub API_VERSION {
564   DateTime->new(year => 2002, month => 8, day => 14)->to_kivitendo;
565 }
566
567 sub DESTROY {
568   unlink $_ for @{ $_[0]->tempfiles || [] };
569 }
570
571 1;
572
573 __END__
574
575 =encoding utf-8
576
577 =head1 NAME
578
579 SL::GDPDU - IDEA export generator
580
581 =head1 FUNCTIONS
582
583 =over 4
584
585 =item C<new PARAMS>
586
587 Create new export object. C<PARAMS> may contain:
588
589 =over 4
590
591 =item company
592
593 The name of the company, needed for the supplier header
594
595 =item location
596
597 Location of the company, needed for the suupplier header
598
599 =item from
600
601 =item to
602
603 Will only include records in the specified date range. Data pulled from other
604 tables will be culled to match what is needed for these records.
605
606 =item tables
607
608 A list of tables to be exported.
609
610 =item all_tables
611
612 Alternative to C<tables>, enables all known tables.
613
614 =back
615
616 =item C<generate_export>
617
618 Do the work. Will return an absolut path to a temp file where all export files
619 are zipped together.
620
621 =back
622
623 =head1 CAVEATS
624
625 =over 4
626
627 =item *
628
629 Date format is shit. The official docs state that only C<YY>, C<YYYY>, C<MM>,
630 and C<DD> are supported, timestamps do not exist.
631
632 =item *
633
634 Number parsing seems to be fragile. Official docs state that behaviour for too
635 low C<Accuracy> settings is undefined. Accuracy of 0 is not taken to mean
636 Integer but instead generates a warning for redudancy.
637
638 There is no dedicated integer type.
639
640 =item *
641
642 Currently C<ar> and C<ap> have a foreign key to themself with the name
643 C<storno_id>. If this foreign key is present in the C<INDEX.XML> then the
644 storno records have to be too. Since this is extremely awkward to code and
645 confusing for the examiner as to why there are records outside of the time
646 range, this export skips all self-referential foreign keys.
647
648 =item *
649
650 Documentation for foreign keys is extremely weird. Instead of giving column
651 maps it assumes that foreign keys map to the primary keys given for the target
652 table, and in that order. Foreign keys to keys that are not primary seems to be
653 impossible. Changing type is also not allowed (which actually makes sense).
654 Hopefully there are no bugs there.
655
656 =item *
657
658 It's currently disallowed to export the whole dataset. It's not clear if this
659 is wanted.
660
661 =item *
662
663 It is not possible to set an empty C<DigiGroupingSymbol> since then the import
664 will just work with the default. This was asked in their forum, and the
665 response actually was:
666
667   Einfache Lösung: Definieren Sie das Tausendertrennzeichen als Komma, auch
668   wenn es nicht verwendet wird. Sollten Sie das Komma bereits als Feldtrenner
669   verwenden, so wählen Sie als Tausendertrennzeichen eine Alternative wie das
670   Pipe-Symbol |.
671
672 L<http://www.gdpdu-portal.com/forum/index.php?mode=thread&id=1392>
673
674 =item *
675
676 It is not possible to define a C<RecordDelimiter> with XML entities. &#x0A;
677 generates the error message:
678
679   C<RecordDelimiter>-Wert (&#x0A;) sollte immer aus ein oder zwei Zeichen
680   bestehen.
681
682 Instead we just use the implicit default RecordDelimiter CRLF.
683
684 =item *
685
686 Not confirmed yet:
687
688 Foreign keys seem only to work with previously defined tables (which would be
689 utterly insane).
690
691 =item *
692
693 The CSV import library used in IDEA is not able to parse newlines (or more
694 exactly RecordDelimiter) in data. So this export substites all of these with
695 spaces.
696
697 =item *
698
699 Neither it is able to parse escaped C<ColumnDelimiter> in data. It just splits
700 on that symbol no matter what surrounds or preceeds it.
701
702 =item *
703
704 Fun fact: Some auditors do not have a full license of the IDEA software, and
705 can't do table joins. So it's best to provide denormalized data for them, so
706 that the auditor may infer which object is meant.
707
708 =back
709
710 =head1 AUTHOR
711
712 Sven Schöling E<lt>s.schoeling@linet-services.deE<gt>
713
714 =cut