In order to give an answer a custom benchmark script was created that inserted rows on the master and then waited for them to appear on one of the slaves, measuring the time it took, and also the number of retries. The table that was choosen was the biggest table that was in use by the application, since I wanted to do a worst case scenario.
The script used is the following:

#!/usr/bin/perl -w
use DBI;
use DBD::mysql;
use Data::Dumper;
use Time::HiRes qw( gettimeofday );
use Parallel::ForkManager;

my %masterhost = ();
my @slavehost = ();

%masterhost = (
    host => "master",
    user => "user", 
    pass => "pass",
);

@slavehost = ( {
    host => "slave1",
    user => "user",
    pass => "pass", },
               {
    host => "slave2",
    user => "user",
    pass => "pass", },

);
sub generate_random_string
{
        my $length_of_randomstring=shift;# the length of 
                         # the random string to generate

        my @chars=('a'..'z','A'..'Z','0'..'9','_');
        my $random_string;
        foreach (1..$length_of_randomstring) 
        {
                # rand @chars will generate a random 
                # number between 0 and scalar @chars
                $random_string.=$chars[rand @chars];
        }
        return $random_string;
}

my $numArgs = $#ARGV + 1 ; 

if ($numArgs != 3 ) {
    print "\n Usage: mysql.pl num_of_conc_clients num_of_iterations size_of_extra_data(in bytes)\n";
    exit 1;
}

my $num_of_clients = $ARGV[0];

my $num_of_iterations = $ARGV[1];

my $size_of_extra_data = $ARGV[2];

my $comments=&generate_random_string($size_of_extra_data);

my $pm = new Parallel::ForkManager($num_of_clients);

mkdir $num_of_clients ;#or die "Failed to mkdir $num_of_clients";

mkdir $num_of_clients . "/". $size_of_extra_data or die "Failed to mkdir $num_of_clients/$size_of_extra_data";

for (1..$num_of_clients) {

    $pm->start and next;

    my $filename=">".$num_of_clients."/". $size_of_extra_data ."/" .$$;
    open(WFILE, $filename) or die "unable to open file $filename";

    my $shost = $$ % @slavehost;
    my $mdsn="DBI:mysql:database=mytests;host=".$masterhost{'host'};
    my $sdsn="DBI:mysql:database=mytests;host=".$slavehost[$shost]{'host'};

    my $mdbh=DBI->connect($mdsn, $masterhost{'user'}, $masterhost{'pass'}) 
        or die "Unable to connect" . DBI->errstr ;

    my $sdbh=DBI->connect($sdsn, $slavehost[$shost]{'user'}, $slavehost[$shost]{'pass'}) 
        or die "Unable to connect" . DBI->errstr ;

   for($i = 0; $i do($statement);

       my $timestamp=gettimeofday();

       $statement = "SELECT * FROM mytests.test1 where test='" . $randvalue ."'"; 
       $rows = $sdbh->do($statement);
       while( $rows == 0 ) {
           $j++;
           $rows = $sdbh->do($statement);
       }
       if( $rows ) {
           $elapsed = gettimeofday() - $timestamp;
           print WFILE $elapsed. ":" . $j. "\n";
       }
   }
    close(WFILE);

    $mdbh->disconnect();
    $sdbh->disconnect();
    $pm->finish;
}

$pm->wait_all_children;

my $mdsn="DBI:mysql:database=mytests;host=".$masterhost{'host'};
my $mdbh=DBI->connect($mdsn, $masterhost{'user'}, $masterhost{'pass'}) 
        or die "Unable to connect" . DBI->errstr ;

$statement = "DELETE FROM mytests.test1";
$mdbh->do($statement);

$mdbh->disconnect() or warn "Disconnection failed: $DBI::errstr\n";

print "Done for $num_of_clients $num_of_iterations $size_of_extra_data" . "\n" ;

The script was run for a number of 10 to 100 concurent processes (step value 10) and for data size from 1000 to 20000 (step value 1000) bytes.

for i in $(seq 10 10 100) ; do for j in $(seq 1000 1000 20000); do perl ./mysql.pl $i 1000 $j; done; done

and produced the files with the values like
timetook:number_of_retries

With a little bit of awk, shell scripting and octave, I analysed the results and I printed some graphs like the following:

Mean number of retries

mean value for waiting time

standard deviation of number of retries

standard deviation of waiting time

It is clear from the test that mysql replication as a horizontal scaling mechanism under heavy load and an application that is not replication aware is not a good solution. It is not the time that takes for the replication to complete, but the standard deviation that makes the whole process quite unstable.

I understand that the way this test was performed there was a hammering to the database server(s). But I wanted to emulate a heavy usage scenario. I could also try to run the same test with smaller data size written, and also have a small sleep period before each write for each process. Finally all the tests were done using VMs, and I’m quite curious to run the same tests with real servers, to see if virtualization’s effect on replication.

Special thanks go to Apollon, for providing help with perl, GNU Octave to produce all these plots, and help in general

• Η θάλασσα είναι απίστευτη!! Η πρώτη αίσθηση που είχα ήταν σαν το Ντόρνα! Δεν κάνεις μπάνιο σε νερό, αλλά σε βιλούδο!!
• Τα νερά επίσης είναι κρυστάλλινα και βλέπεις από επιφάνεια σε πολύ μεγάλο βάθος!  ΑΠΑΡΑΙΤΗΤΑ για τους φίλους : Μάσκα, αναπνευστήρας. Προεραιτικά τα βατραχοπέδιλα (στα 2m βλέπεις αρκετά ψάρια).
• Αν φυσάει από Δυτικούς ως και Νότιους προτιμάμε την Ανατολική πλευρά του νησιού.
• Αν κάνετε αυτόνομη κατάδυση (και το επιτρέπουνε) να πάτε να δείτε! (Στην Αλόννησο υπάρχουνε 2 καταδυτικά κέντρα. Ένα στο Πατητήρι και ένα στη Στενή Βάλα). Μεγάλη βλακεία που δεν επιτρέπουνε γενικά την αυτόνομη κατάδυση, κάπως θα έπρεπε να το οργανώσουνε καλύτερα σε συνεργασία με το θαλάσσιο πάρκο.
• Ρουσούμ Γυαλό πάτε άνετα με τα πόδια, ρωτήστε όμως που είναι το μονοπάτι που κόβει δρόμο (μετά τα σχολεία πάτε δεξιά) για να μην περπατάτε άδικα
• Καλύτερη παραλία το Κοκκινόκαστρο! (μετά τα Γυάλια)
• Παραλία με άμμο και περπάτημα στη θάλασσα η Χρυσή Μηλιά! Εκεί πέρα αν αφού κατεβείτε πάτε τέρμα αριστερά (όπως κοιτάτε την θάλασσα) τότε θα πάτε στο δεύτερο κομμάτι της παραλίας που είναι ένα ξενοδοχείο με τίγκα Ιταλούς! Αν δεν σας πειράζουνε οι Ιταλοί που κάνουνε aquarobic και διάφορα μπορείτε να καβατζώσετε στο τζάμπα ξαπλώστρες και ομπρέλα. Καπουτσίνο ΔΕΝ παίρνουμε από την καντίνα.
• Βόλτα με καραβάκι γύρω είναι must. Προτιμάμε το “Στέλλα” διότι ο κ. Παναγιώτης έχει πολύ φάση,   και επίσης στη Μεγάλη Σπηλιά μπαίνει όλο μέσα και κάνεις από εκεί πανω βουτιά!! (Απίστευτη η Μεγάλη Σπηλιά).
• Συγκοινωνία (δηλαδή Λεωφορείο) ξεχάστε το σχεδόν. Απλά υπάρχει για μπορούνε να το δείχνουνε. Υπάρχουνε μόνο 2 προορισμοί (Πατητήρι – Χώρα και Πατητήρι – Στενή Βάλα) και τα δρομολόγια είναι ΠΟΛΥ αραιά. Έχει και μια μεγάλη διακοπή το μεσημέρι (όπως και τα περισσότερα πράγματα που κλείνανε το μεσημέρι) και το βράδυ σταματάει και νωρίς (για την Χώρα πάντα). Άρα πάμε σε πιο κάτω λύσεις που παρουσιάζονται.
• Αμάξι είναι η πονεμένη ιστορία! Πραγματικά το μόνο που μου έσπασε τα νεύρα. Βρίσκεται δύσκολα αμάξι και οι τιμές αλλάζουνε μέρα με την μέρα (και είναι και μερικές στο Θεό) διότι βλέπουνε τον κόσμο και τις ανεβοκατεβάζουνε. Δείτε τα ζώδια πρίν πάτε .. αν ο Ερμής είναι ανάδρομος μην το επιχειρήσετε.
• Αν όχι αμάξι τα μηχανάκια είναι μια καλή λύση, υπάρχουνε πολλά! Προσοχή στον (ανύπαρκτο σε πολλά σημεία) δρόμο.
• Καλύτερη λύση και από τα 2: Να πάτε με σκάφος!!! Έχει τόσο όμορφα μέρη για να δεί κανείς που δεν πάει οδικώς. Επίσης και 2-3 νησιά γύρω γύρω.
• (Αν πάτε για πολλές μέρες τότε ίσως αξίζει να πάρετε το δικό σας, αλλά πάλι δείτε τα δρομολόγια)
• Φαγητό ΑΡΙΣΤΟ! Στο Πατητήρι για ψάρι στο Αρχιπέλαγος και για σουβλάκι στο Στέκι (δίπλα ακριβώς). Στη Χώρα must το Περι Ορέξεως (σίγουρα δοκιμάστε το γεμιστό μπιφτέκι με γραβιέρα και το burger του, ο μάγειρας είναι καλλιτέχνης) και για γλυκό ΚΑΡΑMUST το Χαγιάτι! (Σοκολατόπιτα μιαμ μιαμ)
• “Night life” (καλά μην περιμένετε τίποτα τρελλό στην Αλόννησο) στη Χώρα. Το Πατητήρι έχει 2 μαγαζιά το Εν Πλώ δεξιά όπως κοιτάς το λιμάνι και τον Λίθο στα αριστερά. Σε θέα και μουσική πάντως δεν συγκρίνονται με το Χαγιάτι! Προτιμήσαμε Λίθο για καφέ όταν πήγαμε στο Πατητήρι και φτιάξανε άριστο φραπέ με παγωτό!

Και ότι άλλο θυμηθώ το συμπληρώνω

1. retrieve the status file created by OpenVPN to the RRD server and parse it locally
2. execute a small script that parses the status file and reports the number of users. The result can be available to the RRD server though the network with the use of inetd(8)
3. use the management interface for OpenVPN to get the same information

Each solution had some drawbacks. The best solution seemed to be 3) but this had a number of problems.

• the management interface is still unencrypted, so it is easy to sniff the password
• there is no way to restrict the commands that can be executed through the management interface (someone with access to the management interface can disable the service)
• the tun interfaces on Solaris (don’t even ask me why we have Solaris as the VPN Gateway) are not “complete” network interfaces, so you cannot really filter traffic passing through them with ipfilter. (that’s what the local Solaris guru said). So even if we used another physical interface for the management service to run, the vpn users could also access the management interface port.

For the above reasons I was quite reluctant to enable as is the management interface. The final solution came with a combination of solutions 2) and 3).

I had the OpenVPN management interface run on localhost (so that none outside the machine can touch the interface) and had a small script run through inetd , connected to the management interface and return the number of online users as a number.

The setup is the following:

1. add to vpn config the corresponding lines to enable the management interface on localhost port 25:
   management localhost 1025 pwfile
2. create the pwfile on the OpenVPN config directory that contains just one line with the password, set 400 permissions and the owner to the user tha openvpn runs. i.e.
   thepassword
3. restart openvpn and make sure that the management interface works.
4. create the following script in a place, lets call it $SCRIPT_HOME named stat.sh
   #!/bin/sh

   PATH=/usr/bin
   export PATH

   if [ "xx$1" = "xx" ]
   then
   echo "no conf file specified"
   exit 1;
   fi
   . $1

   (echo "$PASSWORD" ; sleep 1 ; echo "status 2" ; sleep 1 ; echo "quit" ; sleep 1 ) |
telnet $HOST $PORT 2>/dev/null |
grep '^CLIENT_LIST' | wc -l

5. create a configuration file for the script $SCRIPT_HOME/stat.conf, set the owner to nobody and permissions 400
   PASSWORD="thepassword"
HOST=localhost
PORT=1025
6. add the service to /etc/services
   openvpnstat     1026/tcp                        # OpenVPN user statistics
7. add the service to /etc/inetd.conf
   #service used for OpenVPN statistics
openvpnstat     stream  tcp     nowait  nobody  $SCRIPT_HOME/stat.sh stat.sh $SCRIPT_HOME/stat.conf
8. For some extra security enable tcpwrappers (if they are not yet enabled)
9. create (or add in) /etc/hosts.allow
   stat.sh : xxx.xxx.xxx.xxx
   where xxx.xxx.xxx.xxx is the machine, or subnet that you want to permit connections to this port
10. create (or add in) /etc/hosts.deny
    stat.sh : ALL
11. pkill -HUP inetd for Solaris 9, or for Solaris 10 follow the procedure to import the new service from inetd.conf and refresh inetd
12. test the configuration with netcat, or telnet
    nc vpnhost 1026

With this setup it is possible to have the number of online users, and with some config you can feed it to mrtg or rrd and create some nice graphs (Still waiting for some image to be created ) Hopefully, I haven’t forgotten any step

After the installation the service seemed to go up, the user authentication worked but it was not possible for packets to pass through. The problem happened because for some reason after the initialisation openvpn removed the routing entries for the VPN subnet that should go through the tun interface.

After a more careful look at the log files the problem was during the initialisation. It added the routes with the corresponding route add net … but after the fork the routes where deleted with route del commands. The first “fix” was to add a line to the init script to manual add a route after the vpn was up.

Having a look at the source code, the problem was at the openvpn_exit() function that called the tun_abort() (which called do_close_tun() and delete_routes()) after the fork. Searching also in the trac found this link : https://community.openvpn.net/openvpn/ticket/53 that describes also the same behaviour.

The final solution was to produce a patch as described in the above link, and use this source code patch for the building of OpenVPN.

So people that have OpenVPN in tun mode at least in Solaris (haven’t tried it on Linux) and after an upgrade suddenly realise that things don’t work as supposed to, they should first try to add the routing command by hand with

route add vpn_subnet vpn_subnet_mask vpn_gateway_ip

and if this fixes the problem, then try to apply the solution found on the OpenVPN track

While I was trying to implement this setup using group policies, the simple batch file[1]  I created to add the network mapping was failing. The batch file had just  command

net use z: \\server\όνομα

After some search I found that the reason this didn’t work, was that batch files cannot understand greek names (for encoding reasons). I tried a number of options to create a batch file that worked, but all failed. Finally, I opened the command prompt and typed the command :

echo “net use z: \\server\όνομα” > file.bat

This file worked . I even opened notepad and added some extra stuff that I needed, and still everything works. Moral of the story : Sometimes the unix way, works even in Windows :p

[1] I have read that Mapping Network Drives can be done in windows 2008 using the new policies, but the clients are all Windows XP, and I’m not willing to go to one by one to all the workstations and install manually the needed updates (no central update pushing here). Also people might argue against using a batch file, but batch files is the thing that I know at the moment. (I’m also sure that there is a better way to create the needed file, but this way worked for me).

From : o25ybo@otenet.gr

Είμαι φοιτητής της ιατρικής σχολής και επικοινωνώ μαζί σας σχετικά με μία πρόταση που θέλω να παραθέσω.

Θέλω να σας ρωτήσω εαν ενδιαφέρεστε να φιλοξενήσετε IRC διακομηστή για το IRC δίκτυο της Undernet.

Τα οφέλη του ΚΛΕΙΔΙ απο αυτή τη φιλοξενία είναι η προβολή σε διεθνές επίπεδο του τεχνολογικού υπόβαθρου του πανεπιστημίου Αθηνών καθώς το UnderNet ειναι το δεύτερο μεγαλήτερο IRC δίκτυο παγκοσμίως.

Αυτό που χρειάζεται είναι ένα σύστημα στις τεχνολογικές εγκαταστάσεις του Πανεπιστημίου Αθηνών και πλήρης άδεια απο το ΚΛΕΙΔΙ για να συνδεθεί ο διακομηστής με τους κεντρικούς IRC διακομηστές του UnderNet

Μπορούμε να αναλάβουμε την εξόφληση του hardware οσον αφορά αυτό το project.

Αναμένω την απάντησή σας.

Με εκτίμηση

Αλέξανδρος Κούκουλας

Το ενδιαφέρον είναι πώς το ίδιο ΑΚΡΙΒΩΣ email στάλθηκε και σε άλλα 2 ιδρύματα από ότι έμαθα. Τελικά υπάρχουνε και διπλοθεσίτες στα ελληνικά πανεπιστήμια. :p

Το καταπληκτικό ήρθε όταν πήγαμε να πληρώσουμε. 12Ε λογαριασμός (για 4 καφέδες). Του δίνουμε 20, στραβομουτσουνιάζει

-”Δεν έχετε ψιλά”.

-”Όχι δεν έχουμε.”

-”Καλά”

Αφήνει 7Ε ρεύστα .. και φεύγει.

Λόγο του σηκωνόμασταν να φύγουμε κτλ κτλ δεν το πήρα χαμπάρι αμέσως, αλλά όταν μοιράζαμε τα ρέστα έξω τότε φάνηκε ότι μας έλειπε το 1Ε. Κορυφαίος ο σερβιτόρος, πήρε και το πουρμπουάρ που θεώρησε ότι του αναλογεί και ύφος 1000 καρδιναλλίων. *$$*#($*#

-1 μέρος που πάω για καφέ.

1. Upload the python script to weblogic server (using scp, ftp,whatever)
2. locate the ovdconf/mapping_templates directory under the $MW_HOME
3. move the script to this directory
4. IF you are logged in Weblogic manager, logout and log back in. Otherwise you will not be able to see in Mapping Templates the new Template (and there is no reload button there!*$#(*$#($* )
5. go to mapping templates, click on the new script .. and deploy

This made the trick. However regarding Python script support keep in mind the following from the documentation:

"The mapping information in this chapter is included for historical
purposes."

The reason is simple. Oracle’s OVD comes with ojdbc6.jar preinstalled, but it is not in the normal directory that all the other jdbc drivers of the instance are installed, but it is in $MIDDLEWARE_HOME/Oracle_IDM1/jdbc, so it uses this.

The solution to connect is to go to this directory, remove all the jar files and then upload the old ojdbc though weblogic manager. (or you can always just put it using cp to $MIDDLEWARE_HOME/$INSTANCE/OVD/ovd1/plugins/lib).

At least with this way it connects to the database. Whether the mappings are working or not, is something to be checked.

Another possible solution, is to install an oracle 11g listener to the oracle 8i database (someone told me that this is possible) and then use this listener to use the database.

I think as a first attempt i managed to do that, just by putting the following options to the public part of the key and then adding it to .ssh/authorized_keys. The 2 options are: command=”",no-pty

Port forward seems to work ok, and no matter which command i try to execute nothing happens.