]> git.ipfire.org Git - thirdparty/gettext.git/commitdiff
Add YCP support.
authorBruno Haible <bruno@clisp.org>
Sat, 20 Oct 2001 12:56:13 +0000 (12:56 +0000)
committerBruno Haible <bruno@clisp.org>
Sat, 20 Oct 2001 12:56:13 +0000 (12:56 +0000)
src/ChangeLog
src/Makefile.am
src/x-ycp.c [new file with mode: 0644]
src/x-ycp.h [new file with mode: 0644]
src/xgettext.c
tests/ChangeLog
tests/format-ycp-1

index 4e8bcad25d22b90697fbb9c3bcba18637a1be2db..9b6f680d494253f495b44470183744ce3d22c949 100644 (file)
@@ -1,3 +1,15 @@
+2001-09-16  Bruno Haible  <haible@clisp.cons.org>
+
+       * x-ycp.h: New file.
+       * x-ycp.c: New file.
+       * xgettext.c: Include x-ycp.h.
+       (usage): Mention YCP.
+       (scan_ycp_file): New function.
+       (language_to_scanner): Add YCP rule. Remove preliminary YCP rule.
+       (extension_to_language): Add YCP rule.
+       * Makefile.am (noinst_HEADERS): Add x-ycp.h.
+       (xgettext_SOURCES): Add x-ycp.c.
+
 2001-09-17  Bruno Haible  <haible@clisp.cons.org>
 
        * gettext.c: Include basename.h.
index 6736ef768c22ef563b0be6773c5ad3c9d256fb33..b93a77917da489bc0bc5a36b290153f0b0f82624 100644 (file)
@@ -26,7 +26,8 @@ msgattrib msgcat msgcomm msgconv msgen msgexec msggrep msguniq
 noinst_HEADERS = pos.h message.h po-gram.h po-hash.h po-charset.h po-lex.h \
 po.h open-po.h read-po.h str-list.h write-po.h dir-list.h file-list.h \
 po-gram-gen.h po-hash-gen.h msgl-charset.h msgl-iconv.h msgl-ascii.h \
-msgl-cat.h msgfmt.h read-mo.h write-mo.h xgettext.h x-c.h x-po.h x-java.h
+msgl-cat.h msgfmt.h read-mo.h write-mo.h xgettext.h x-c.h x-po.h x-java.h \
+x-ycp.h
 
 EXTRA_DIST = FILES
 
@@ -67,7 +68,7 @@ msgcmp_SOURCES    = msgcmp.c    $(COMMON_SOURCES)
 msgfmt_SOURCES    = msgfmt.c    $(COMMON_SOURCES) msgl-ascii.c msgl-iconv.c write-mo.c write-java.c plural.c $(FORMAT_SOURCES)
 msgmerge_SOURCES  = msgmerge.c  $(COMMON_SOURCES) msgl-ascii.c write-po.c read-po.c
 msgunfmt_SOURCES  = msgunfmt.c  $(COMMON_SOURCES) msgl-ascii.c write-po.c read-po.c read-mo.c read-java.c
-xgettext_SOURCES  = xgettext.c  $(COMMON_SOURCES) msgl-ascii.c write-po.c file-list.c x-c.c x-po.c x-java.l $(FORMAT_SOURCES)
+xgettext_SOURCES  = xgettext.c  $(COMMON_SOURCES) msgl-ascii.c write-po.c file-list.c x-c.c x-po.c x-java.l x-ycp.c $(FORMAT_SOURCES)
 msgattrib_SOURCES = msgattrib.c $(COMMON_SOURCES) msgl-ascii.c write-po.c read-po.c
 msgcat_SOURCES    = msgcat.c    $(COMMON_SOURCES) msgl-ascii.c write-po.c read-po.c msgl-iconv.c msgl-cat.c file-list.c
 msgcomm_SOURCES   = msgcomm.c   $(COMMON_SOURCES) msgl-ascii.c write-po.c read-po.c msgl-iconv.c msgl-cat.c file-list.c
diff --git a/src/x-ycp.c b/src/x-ycp.c
new file mode 100644 (file)
index 0000000..add21a1
--- /dev/null
@@ -0,0 +1,591 @@
+/* xgettext YCP backend.
+   Copyright (C) 2001 Free Software Foundation, Inc.
+
+   This file was written by Bruno Haible <haible@clisp.cons.org>, 2001.
+
+   This program is free software; you can redistribute it and/or modify
+   it under the terms of the GNU General Public License as published by
+   the Free Software Foundation; either version 2, or (at your option)
+   any later version.
+
+   This program is distributed in the hope that it will be useful,
+   but WITHOUT ANY WARRANTY; without even the implied warranty of
+   MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
+   GNU General Public License for more details.
+
+   You should have received a copy of the GNU General Public License
+   along with this program; if not, write to the Free Software Foundation,
+   Inc., 59 Temple Place - Suite 330, Boston, MA 02111-1307, USA.  */
+
+#ifdef HAVE_CONFIG_H
+# include "config.h"
+#endif
+
+#include <ctype.h>
+#include <errno.h>
+#include <limits.h>
+#include <stdbool.h>
+#include <stdio.h>
+#include <stdlib.h>
+
+#include "message.h"
+#include "x-ycp.h"
+#include "xgettext.h"
+#include "error.h"
+#include "xmalloc.h"
+#include "system.h"
+#include "libgettext.h"
+
+#define _(s) gettext(s)
+
+
+/* The YCP syntax is defined in libycp/doc/syntax.html.
+   See also libycp/src/scanner.ll.  */
+
+enum token_type_ty
+{
+  token_type_eof,
+  token_type_lparen,           /* ( */
+  token_type_rparen,           /* ) */
+  token_type_i18n,             /* _( */
+  token_type_string_literal,   /* "abc" */
+  token_type_other             /* number, symbol, misc. operator */
+};
+typedef enum token_type_ty token_type_ty;
+
+typedef struct token_ty token_ty;
+struct token_ty
+{
+  token_type_ty type;
+  char *string;
+  int line_number;
+};
+
+
+/* Real filename, used in error messages about the input file.  */
+static const char *real_file_name;
+
+/* Logical filename and line number, used to label the extracted messages.  */
+static char *logical_file_name;
+static int line_number;
+static int char_in_line;
+
+/* The input file stream.  */
+static FILE *fp;
+
+/* These are for tracking whether comments count as immediately before
+   keyword.  */
+static int last_comment_line;
+static int last_non_comment_line;
+
+
+/* Prototypes for local functions.  Needed to ensure compiler checking of
+   function argument counts despite of K&R C function definition syntax.  */
+static int phase1_getc PARAMS ((void));
+static void phase1_ungetc PARAMS ((int c));
+static int phase2_getc PARAMS ((void));
+static void phase2_ungetc PARAMS ((int c));
+static int phase7_getc PARAMS ((void));
+static void x_ycp_lex PARAMS ((token_ty *tp));
+
+
+/* 1. line_number handling.  */
+
+static int
+phase1_getc ()
+{
+  int c = getc (fp);
+
+  if (c == EOF)
+    {
+      if (ferror (fp))
+       error (EXIT_FAILURE, errno, _("error while reading \"%s\""),
+              real_file_name);
+      return EOF;
+    }
+
+  if (c == '\n')
+    {
+      line_number++;
+      char_in_line = 0;
+    }
+  else
+    char_in_line++;
+
+  return c;
+}
+
+static void
+phase1_ungetc (c)
+     int c;
+{
+  if (c != EOF)
+    {
+      if (c == '\n')
+       {
+         --line_number;
+         char_in_line = INT_MAX;
+       }
+      else
+       --char_in_line;
+
+      ungetc (c, fp);
+    }
+}
+
+
+/* 2. Replace each comment that is not inside a character constant or
+   string literal with a space character.  We need to remember the
+   comment for later, because it may be attached to a keyword string.
+   YCP comments can be in C comment syntax, C++ comment syntax or sh
+   comment syntax.  */
+
+static unsigned char phase2_pushback[1];
+static int phase2_pushback_length;
+
+static int
+phase2_getc ()
+{
+  static char *buffer;
+  static size_t bufmax;
+  size_t buflen;
+  int lineno;
+  int c;
+  bool last_was_star;
+
+  if (phase2_pushback_length)
+    return phase2_pushback[--phase2_pushback_length];
+
+  if (char_in_line == 0)
+    {
+      /* Eat whitespace, to recognize ^[\t ]*# pattern.  */
+      do
+       c = phase1_getc ();
+      while (c == '\t' || c == ' ');
+
+      if (c == '#')
+       {
+         /* sh comment.  */
+         buflen = 0;
+         lineno = line_number;
+         while (1)
+           {
+             c = phase1_getc ();
+             if (c == '\n' || c == EOF)
+               break;
+             if (buflen >= bufmax)
+               {
+                 bufmax += 100;
+                 buffer = xrealloc (buffer, bufmax);
+               }
+             buffer[buflen++] = c;
+           }
+         if (buflen >= bufmax)
+           {
+             bufmax += 100;
+             buffer = xrealloc (buffer, bufmax);
+           }
+         buffer[buflen] = '\0';
+         xgettext_comment_add (buffer);
+         last_comment_line = lineno;
+         return '\n';
+       }
+    }
+  else
+    c = phase1_getc ();
+
+  if (c == '/')
+    {
+      c = phase1_getc ();
+
+      switch (c)
+       {
+       default:
+         phase1_ungetc (c);
+         return '/';
+
+       case '*':
+         /* C comment.  */
+         buflen = 0;
+         lineno = line_number;
+         last_was_star = false;
+         for (;;)
+           {
+             c = phase1_getc ();
+             if (c == EOF)
+               break;
+             /* We skip all leading white space, but not EOLs.  */
+             if (buflen == 0 && isspace (c) && c != '\n')
+               continue;
+             if (buflen >= bufmax)
+               {
+                 bufmax += 100;
+                 buffer = xrealloc (buffer, bufmax);
+               }
+             buffer[buflen++] = c;
+             switch (c)
+               {
+               case '\n':
+                 --buflen;
+                 while (buflen >= 1
+                        && (buffer[buflen - 1] == ' '
+                            || buffer[buflen - 1] == '\t'))
+                   --buflen;
+                 buffer[buflen] = '\0';
+                 xgettext_comment_add (buffer);
+                 buflen = 0;
+                 lineno = line_number;
+                 last_was_star = false;
+                 continue;
+
+               case '*':
+                 last_was_star = true;
+                 continue;
+
+               case '/':
+                 if (last_was_star)
+                   {
+                     buflen -= 2;
+                     while (buflen >= 1
+                            && (buffer[buflen - 1] == ' '
+                                || buffer[buflen - 1] == '\t'))
+                       --buflen;
+                     buffer[buflen] = '\0';
+                     xgettext_comment_add (buffer);
+                     break;
+                   }
+                 /* FALLTHROUGH */
+
+               default:
+                 last_was_star = false;
+                 continue;
+               }
+             break;
+           }
+         last_comment_line = lineno;
+         return ' ';
+
+       case '/':
+         /* C++ comment.  */
+         buflen = 0;
+         lineno = line_number;
+         while (1)
+           {
+             c = phase1_getc ();
+             if (c == '\n' || c == EOF)
+               break;
+             if (buflen >= bufmax)
+               {
+                 bufmax += 100;
+                 buffer = xrealloc (buffer, bufmax);
+               }
+             buffer[buflen++] = c;
+           }
+         if (buflen >= bufmax)
+           {
+             bufmax += 100;
+             buffer = xrealloc (buffer, bufmax);
+           }
+         buffer[buflen] = '\0';
+         xgettext_comment_add (buffer);
+         last_comment_line = lineno;
+         return '\n';
+       }
+    }
+  else
+    return c;
+}
+
+static void
+phase2_ungetc (c)
+     int c;
+{
+  if (c != EOF)
+    phase2_pushback[phase2_pushback_length++] = c;
+}
+
+
+/* 7. Replace escape sequences within character strings with their
+   single character equivalents.  */
+
+#define P7_QUOTES (1000 + '"')
+
+static int
+phase7_getc ()
+{
+  int c;
+
+  for (;;)
+    {
+      /* Use phase 1, because phase 2 elides comments.  */
+      c = phase1_getc ();
+
+      if (c == '"')
+       return P7_QUOTES;
+      if (c != '\\')
+       return c;
+      c = phase1_getc ();
+      if (c != '\n')
+       switch (c)
+         {
+         case 'b':
+           return '\b';
+         case 'f':
+           return '\f';
+         case 'n':
+           return '\n';
+         case 'r':
+           return '\r';
+         case 't':
+           return '\t';
+
+         /* FIXME: What is the octal escape syntax?
+            syntax.html says: [0] [0-7]+
+            scanner.ll says:  [0-7] [0-7] [0-7]
+          */
+#if 0
+         case '0': case '1': case '2': case '3':
+         case '4': case '5': case '6': case '7':
+           {
+             int n, j;
+
+             n = 0;
+             for (j = 0; j < 3; ++j)
+               {
+                 n = n * 8 + c - '0';
+                 c = phase1_getc ();
+                 switch (c)
+                   {
+                   default:
+                     break;
+
+                   case '0': case '1': case '2': case '3':
+                   case '4': case '5': case '6': case '7':
+                     continue;
+                   }
+                 break;
+               }
+             phase1_ungetc (c);
+             return n;
+           }
+#endif
+
+         default:
+           return c;
+         }
+    }
+}
+
+
+/* Combine characters into tokens.  Discard whitespace.  */
+
+static void
+x_ycp_lex (tp)
+     token_ty *tp;
+{
+  static char *buffer;
+  static int bufmax;
+  int bufpos;
+  int c;
+
+  tp->string = NULL;
+  for (;;)
+    {
+      tp->line_number = line_number;
+      c = phase2_getc ();
+
+      switch (c)
+       {
+       case EOF:
+         tp->type = token_type_eof;
+         return;
+
+       case '\n':
+         if (last_non_comment_line > last_comment_line)
+           xgettext_comment_reset ();
+         /* FALLTHROUGH */
+       case '\r':
+       case '\t':
+       case ' ':
+         /* Ignore whitespace and comments.  */
+         continue;
+       }
+
+      last_non_comment_line = tp->line_number;
+
+      switch (c)
+       {
+       case 'A': case 'B': case 'C': case 'D': case 'E': case 'F':
+       case 'G': case 'H': case 'I': case 'J': case 'K': case 'L':
+       case 'M': case 'N': case 'O': case 'P': case 'Q': case 'R':
+       case 'S': case 'T': case 'U': case 'V': case 'W': case 'X':
+       case 'Y': case 'Z':
+       case '_':
+       case 'a': case 'b': case 'c': case 'd': case 'e': case 'f':
+       case 'g': case 'h': case 'i': case 'j': case 'k': case 'l':
+       case 'm': case 'n': case 'o': case 'p': case 'q': case 'r':
+       case 's': case 't': case 'u': case 'v': case 'w': case 'x':
+       case 'y': case 'z':
+       case '0': case '1': case '2': case '3': case '4':
+       case '5': case '6': case '7': case '8': case '9':
+         /* Symbol, or part of a number.  */
+         bufpos = 0;
+         for (;;)
+           {
+             if (bufpos >= bufmax)
+               {
+                 bufmax += 100;
+                 buffer = xrealloc (buffer, bufmax);
+               }
+             buffer[bufpos++] = c;
+             c = phase2_getc ();
+             switch (c)
+               {
+               case 'A': case 'B': case 'C': case 'D': case 'E': case 'F':
+               case 'G': case 'H': case 'I': case 'J': case 'K': case 'L':
+               case 'M': case 'N': case 'O': case 'P': case 'Q': case 'R':
+               case 'S': case 'T': case 'U': case 'V': case 'W': case 'X':
+               case 'Y': case 'Z':
+               case '_':
+               case 'a': case 'b': case 'c': case 'd': case 'e': case 'f':
+               case 'g': case 'h': case 'i': case 'j': case 'k': case 'l':
+               case 'm': case 'n': case 'o': case 'p': case 'q': case 'r':
+               case 's': case 't': case 'u': case 'v': case 'w': case 'x':
+               case 'y': case 'z':
+               case '0': case '1': case '2': case '3': case '4':
+               case '5': case '6': case '7': case '8': case '9':
+                 continue;
+               default:
+                 if (bufpos == 1 && buffer[0] == '_' && c == '(')
+                   {
+                     tp->type = token_type_i18n;
+                     return;
+                   }
+                 phase2_ungetc (c);
+                 break;
+               }
+             break;
+           }
+         if (bufpos >= bufmax)
+           {
+             bufmax += 100;
+             buffer = xrealloc (buffer, bufmax);
+           }
+         buffer[bufpos] = '\0';
+         tp->string = xstrdup (buffer);
+         tp->type = token_type_other;
+         return;
+
+       case '"':
+         bufpos = 0;
+         for (;;)
+           {
+             c = phase7_getc ();
+             if (c == EOF || c == P7_QUOTES)
+               break;
+             if (bufpos >= bufmax)
+               {
+                 bufmax += 100;
+                 buffer = xrealloc (buffer, bufmax);
+               }
+             buffer[bufpos++] = c;
+           }
+         if (bufpos >= bufmax)
+           {
+             bufmax += 100;
+             buffer = xrealloc (buffer, bufmax);
+           }
+         buffer[bufpos] = '\0';
+         tp->string = xstrdup (buffer);
+         tp->type = token_type_string_literal;
+         return;
+
+       case '(':
+         tp->type = token_type_lparen;
+         return;
+
+       case ')':
+         tp->type = token_type_rparen;
+         return;
+
+       default:
+         /* We could carefully recognize each of the 2 and 3 character
+            operators, but it is not necessary, as we only need to recognize
+            gettext invocations.  Don't bother.  */
+         tp->type = token_type_other;
+         return;
+       }
+    }
+}
+
+
+void
+extract_ycp (f, real_filename, logical_filename, mdlp)
+     FILE *f;
+     const char *real_filename;
+     const char *logical_filename;
+     msgdomain_list_ty *mdlp;
+{
+  message_list_ty *mlp = mdlp->item[0]->messages;
+  int state;
+
+  /* The file is broken into tokens.  Look for
+       [A] _( [B] msgid ... )
+     At point [A]: state == 0.
+     At point [B]: state == 1.  */
+
+  fp = f;
+  real_file_name = real_filename;
+  logical_file_name = xstrdup (logical_filename);
+  line_number = 1;
+  char_in_line = 0;
+
+  last_comment_line = -1;
+  last_non_comment_line = -1;
+
+  /* Start state is 0.  */
+  state = 0;
+
+  for (;;)
+    {
+      token_ty token;
+
+      x_ycp_lex (&token);
+      switch (token.type)
+       {
+       case token_type_i18n:
+         state = 1;
+         continue;
+
+       case token_type_string_literal:
+         if (state == 1)
+           {
+             lex_pos_ty pos;
+             pos.file_name = logical_file_name;
+             pos.line_number = token.line_number;
+
+             remember_a_message (mlp, token.string, &pos);
+           }
+         else
+           free (token.string);
+         state = 0;
+         continue;
+
+       case token_type_eof:
+         break;
+
+       default:
+         if (token.string != NULL)
+           free (token.string);
+         state = 0;
+         continue;
+       }
+      break;
+    }
+
+  fp = NULL;
+  real_file_name = NULL;
+  logical_file_name = NULL;
+  line_number = 0;
+  char_in_line = 0;
+}
diff --git a/src/x-ycp.h b/src/x-ycp.h
new file mode 100644 (file)
index 0000000..c3ad5d0
--- /dev/null
@@ -0,0 +1,29 @@
+/* xgettext YCP backend.
+   Copyright (C) 2001 Free Software Foundation, Inc.
+   Written by Bruno Haible <haible@clisp.cons.org>, 2001.
+
+   This program is free software; you can redistribute it and/or modify
+   it under the terms of the GNU General Public License as published by
+   the Free Software Foundation; either version 2, or (at your option)
+   any later version.
+
+   This program is distributed in the hope that it will be useful,
+   but WITHOUT ANY WARRANTY; without even the implied warranty of
+   MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
+   GNU General Public License for more details.
+
+   You should have received a copy of the GNU General Public License
+   along with this program; if not, write to the Free Software Foundation,
+   Inc., 59 Temple Place - Suite 330, Boston, MA 02111-1307, USA.  */
+
+
+#define EXTENSIONS_YCP \
+  { "ycp",    "YCP"   },                                               \
+
+#define SCANNERS_YCP \
+  { "YCP",        scan_ycp_file, &formatstring_ycp },                  \
+
+/* Scan an YCP file and add its translatable strings to mdlp.  */
+extern void extract_ycp PARAMS ((FILE *fp, const char *real_filename,
+                                const char *logical_filename,
+                                msgdomain_list_ty *mdlp));
index 0f9fc1200c2a715945a2c2a1f7f4f703a9521de5..68096f1001a9fc872f6d1bf9f577cbe69e89af9d 100644 (file)
@@ -65,6 +65,7 @@ struct passwd *getpwuid ();
 #include "x-c.h"
 #include "x-po.h"
 #include "x-java.h"
+#include "x-ycp.h"
 
 
 /* If nonzero add all comments immediately preceding one of the keywords. */
@@ -171,6 +172,8 @@ static void scan_po_file PARAMS ((const char *file_name,
                                  msgdomain_list_ty *mdlp));
 static void scan_java_file PARAMS ((const char *file_name,
                                    msgdomain_list_ty *mdlp));
+static void scan_ycp_file PARAMS ((const char *file_name,
+                                  msgdomain_list_ty *mdlp));
 static long difftm PARAMS ((const struct tm *a, const struct tm *b));
 static message_ty *construct_header PARAMS ((void));
 
@@ -545,7 +548,7 @@ If output file is -, output is written to standard output.\n\
       printf (_("\
 Choice of input file language:\n\
   -L, --language=NAME            recognise the specified language\n\
-                                   (C, C++, ObjectiveC, PO, Java)\n\
+                                   (C, C++, ObjectiveC, PO, Java, YCP)\n\
   -C, --c++                      shorthand for --language=C++\n\
 By default the language is guessed depending on the input file name extension.\n\
 "));
@@ -1053,6 +1056,24 @@ scan_java_file (file_name, mdlp)
 }
 
 
+static void
+scan_ycp_file (file_name, mdlp)
+     const char *file_name;
+     msgdomain_list_ty *mdlp;
+{
+  char *logical_file_name;
+  char *real_file_name;
+  FILE *fp = xgettext_open (file_name, &logical_file_name, &real_file_name);
+
+  extract_ycp (fp, real_file_name, logical_file_name, mdlp);
+
+  if (fp != stdin)
+    fclose (fp);
+  free (logical_file_name);
+  free (real_file_name);
+}
+
+
 #define TM_YEAR_ORIGIN 1900
 
 /* Yield A - B, measured in seconds.  */
@@ -1156,9 +1177,9 @@ language_to_scanner (name)
     SCANNERS_C
     SCANNERS_PO
     SCANNERS_JAVA
+    SCANNERS_YCP
     { "Python", scan_c_file, &formatstring_python },
     { "Lisp", scan_c_file, &formatstring_lisp },
-    { "YCP", scan_c_file, &formatstring_ycp },
     /* Here will follow more languages and their scanners: awk, perl,
        etc...  Make sure new scanners honor the --exclude-file option.  */
   };
@@ -1196,6 +1217,7 @@ extension_to_language (extension)
     EXTENSIONS_C
     EXTENSIONS_PO
     EXTENSIONS_JAVA
+    EXTENSIONS_YCP
     /* Here will follow more file extensions: sh, pl, tcl, lisp ... */
   };
 
index d11d772b149e590e4a443f2f13439687fec785e3..8e488d5fa02b007e56d7ed8b0f2e36f6b93bbba3 100644 (file)
@@ -1,3 +1,7 @@
+2001-09-16  Bruno Haible  <haible@clisp.cons.org>
+
+       * format-ycp-1: Use real YCP syntax.
+
 2001-09-17  Bruno Haible  <haible@clisp.cons.org>
 
        * tstngettext.c: Include basename.h.
index ba4eac2ba3f6e7525f57e594cae66c590e571fd2..ca84aae9036202d5a9430395201f6de11f78a4c4 100755 (executable)
@@ -32,7 +32,7 @@ while read comment; do
   n=`expr $n + 1`
   tmpfiles="$tmpfiles f-y-1-$n.in f-y-1-$n.po"
   cat <<EOF > f-y-1-$n.in
-gettext(${string});
+_(${string});
 EOF
   ${XGETTEXT} -L YCP -o f-y-1-$n.po f-y-1-$n.in || exit 1
   test -f f-y-1-$n.po || exit 1