2005-01-27 Havoc Pennington <hp@redhat.com>
[platform/upstream/dbus.git] / dbus / dbus-marshal-byteswap.c
1 /* -*- mode: C; c-file-style: "gnu" -*- */
2 /* dbus-marshal-byteswap.c  Swap a block of marshaled data
3  *
4  * Copyright (C) 2005 Red Hat, Inc.
5  *
6  * Licensed under the Academic Free License version 2.1
7  *
8  * This program is free software; you can redistribute it and/or modify
9  * it under the terms of the GNU General Public License as published by
10  * the Free Software Foundation; either version 2 of the License, or
11  * (at your option) any later version.
12  *
13  * This program is distributed in the hope that it will be useful,
14  * but WITHOUT ANY WARRANTY; without even the implied warranty of
15  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
16  * GNU General Public License for more details.
17  *
18  * You should have received a copy of the GNU General Public License
19  * along with this program; if not, write to the Free Software
20  * Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA
21  *
22  */
23
24 #include "dbus-marshal-byteswap.h"
25 #include "dbus-marshal-basic.h"
26
27 /**
28  * @addtogroup DBusMarshal
29  * @{
30  */
31
32 static void
33 byteswap_body_helper (DBusTypeReader       *reader,
34                       dbus_bool_t           walk_reader_to_end,
35                       int                   old_byte_order,
36                       int                   new_byte_order,
37                       unsigned char        *p,
38                       unsigned char       **new_p)
39 {
40   int current_type;
41
42   while ((current_type = _dbus_type_reader_get_current_type (reader)) != DBUS_TYPE_INVALID)
43     {
44       switch (current_type)
45         {
46         case DBUS_TYPE_BYTE:
47           ++p;
48           break;
49
50         case DBUS_TYPE_BOOLEAN:
51         case DBUS_TYPE_INT32:
52         case DBUS_TYPE_UINT32:
53           {
54             p = _DBUS_ALIGN_ADDRESS (p, 4);
55             *((dbus_uint32_t*)p) = DBUS_UINT32_SWAP_LE_BE (*((dbus_uint32_t*)p));
56             p += 4;
57           }
58           break;
59           
60         case DBUS_TYPE_INT64:
61         case DBUS_TYPE_UINT64:
62         case DBUS_TYPE_DOUBLE:
63           {
64             p = _DBUS_ALIGN_ADDRESS (p, 8);
65 #ifdef DBUS_HAVE_INT64
66             *((dbus_uint64_t*)p) = DBUS_UINT64_SWAP_LE_BE (*((dbus_uint64_t*)p));
67 #else
68             _dbus_swap_array (p, 1, 8);
69 #endif
70             p += 8;
71           }
72           break;
73
74         case DBUS_TYPE_ARRAY:
75         case DBUS_TYPE_STRING:
76         case DBUS_TYPE_OBJECT_PATH:
77           {
78             dbus_uint32_t array_len;
79             
80             p = _DBUS_ALIGN_ADDRESS (p, 4);
81
82             array_len = _dbus_unpack_uint32 (old_byte_order, p);
83             
84             *((dbus_uint32_t*)p) = DBUS_UINT32_SWAP_LE_BE (*((dbus_uint32_t*)p));
85             p += 4;
86
87             if (current_type == DBUS_TYPE_ARRAY)
88               {
89                 int elem_type;
90                 int alignment;
91
92                 elem_type = _dbus_type_reader_get_element_type (reader);
93                 alignment = _dbus_type_get_alignment (elem_type);
94
95                 p = _DBUS_ALIGN_ADDRESS (p, alignment);
96                 
97                 if (_dbus_type_is_fixed (elem_type))
98                   {
99                     if (alignment > 1)
100                       _dbus_swap_array (p, array_len / alignment, alignment);
101                   }
102                 else
103                   {
104                     DBusTypeReader sub;
105                     const unsigned char *array_end;
106
107                     array_end = p + array_len;
108                     
109                     _dbus_type_reader_recurse (reader, &sub);
110
111                     while (p < array_end)
112                       {
113                         byteswap_body_helper (&sub,
114                                               FALSE,
115                                               old_byte_order,
116                                               new_byte_order,
117                                               p, &p);
118                       }
119                   }
120               }
121             else
122               {
123                 _dbus_assert (current_type == DBUS_TYPE_STRING ||
124                               current_type == DBUS_TYPE_OBJECT_PATH);
125                 
126                 p += (array_len + 1); /* + 1 for nul */
127               }
128           }
129           break;
130
131         case DBUS_TYPE_SIGNATURE:
132           {
133             dbus_uint32_t sig_len;
134
135             sig_len = *p;
136             
137             p += (sig_len + 2); /* +2 for len and nul */
138           }
139           break;
140
141         case DBUS_TYPE_VARIANT:
142           {
143             /* 1 byte sig len, sig typecodes, align to
144              * contained-type-boundary, values.
145              */
146             dbus_uint32_t sig_len;
147             DBusString sig;
148             DBusTypeReader sub;
149             int contained_alignment;
150
151             sig_len = *p;
152             ++p;
153
154             _dbus_string_init_const_len (&sig, p, sig_len);
155
156             p += (sig_len + 1); /* 1 for nul */
157
158             contained_alignment = _dbus_type_get_alignment (_dbus_first_type_in_signature (&sig, 0));
159             
160             p = _DBUS_ALIGN_ADDRESS (p, contained_alignment);
161
162             _dbus_type_reader_init_types_only (&sub, &sig, 0);
163
164             byteswap_body_helper (&sub, FALSE, old_byte_order, new_byte_order, p, &p);
165           }
166           break;
167
168         case DBUS_TYPE_STRUCT:
169           {
170             DBusTypeReader sub;
171
172             p = _DBUS_ALIGN_ADDRESS (p, 8);
173             
174             _dbus_type_reader_recurse (reader, &sub);
175             
176             byteswap_body_helper (&sub, TRUE, old_byte_order, new_byte_order, p, &p);
177           }
178           break;
179
180         default:
181           _dbus_assert_not_reached ("invalid typecode in supposedly-validated signature");
182           break;
183         }
184
185       if (walk_reader_to_end)
186         _dbus_type_reader_next (reader);
187       else
188         break;
189     }
190
191   if (new_p)
192     *new_p = p;
193 }
194
195 /**
196  * Byteswaps the marshaled data in the given value_str.
197  *
198  * @param signature the types in the value_str
199  * @param signature_start where in signature is the signature
200  * @param old_byte_order the old byte order
201  * @param new_byte_order the new byte order
202  * @param value_str the string containing the body
203  * @param value_pos where the values start
204  */
205 void
206 _dbus_marshal_byteswap (const DBusString *signature,
207                         int               signature_start,
208                         int               old_byte_order,
209                         int               new_byte_order,
210                         DBusString       *value_str,
211                         int               value_pos)
212 {
213   DBusTypeReader reader;
214
215   _dbus_assert (value_pos >= 0);
216   _dbus_assert (value_pos <= _dbus_string_get_length (value_str));
217
218   if (old_byte_order == new_byte_order)
219     return;
220   
221   _dbus_type_reader_init_types_only (&reader,
222                                      signature, signature_start);
223
224   byteswap_body_helper (&reader, TRUE,
225                         old_byte_order, new_byte_order,
226                         _dbus_string_get_data_len (value_str, value_pos, 0),
227                         NULL);
228 }
229
230 /** @} */
231
232 /* Tests in dbus-marshal-byteswap-util.c */